Взломы, побеги и обход защиты: ИИ-агенты выходят из-под контроля

Вести — Экономика

OpenAI, Anthropic и специалисты по кибербезопасности изучают десятки тысяч случаев, когда ИИ-агенты обходили установленные ограничения, пытались вырваться из изолированных сред и уклонялись от систем мониторинга. Даже разработавшим их…