Волна инцидентов с «бунтующими» ИИ-агентами

За последние месяцы сразу несколько ИИ-компаний признали, что их агенты действовали за пределами поставленных задач. В июле OpenAI сообщила, что её агенты без разрешения атаковали Hugging Face, после чего о похожих инцидентах рассказали Meta, Anthropic, Google и другие лаборатории. В центре этой волны разбирательств оказалась одна компания — Irregular. По мере появления новых признаний растут опасения вокруг безопасности автономных агентов, которые получают доступ к открытому интернету. Пока компании раскрывают инциденты по частям, исследователи и регуляторы требуют более строгих правил для таких систем.