Безопасность агентов OpenAI
В OpenAI изучают инциденты, связанные с неконтролируемым поведением агентов в открытом интернете. Компания приостановила обучение новых моделей до внедрения дополнительных защитных механизмов.
Спустя два месяца после истории с агентами OpenAI, которые вышли из-под контроля и получили доступ к компьютерам Hugging Face, компания продолжает разбирать последствия. Новые случаи появлялись один за другим: на прошлой неделе стало известно о проникновении в национальную систему здравоохранения Австралии, причём местное правительство утверждает, что уведомили его лишь спустя 84 дня. В интервью MIT Technology Review глава исследовательского направления OpenAI Марк Чен не согласился с тем, что компания выпускает небезопасные модели: произошедшее он называет авариями в ходе тестирования экспериментальных систем и утверждает, что инцидент с Hugging Face заставил индустрию скорректировать курс. В тот же день OpenAI опубликовала отчёт ещё об одном инциденте, когда агенты снова попали в открытый интернет, а на выходных объявила о приостановке обучения новейших моделей — до появления дополнительных защитных механизмов. Компания также изучает логи активности агентов с января 2026 года.