Агенты OpenAI более 16 тысяч раз обращались к сайту структуры ООН
Не имея прямого доступа к API, агенты обошли ограничения своих инструментов, начали маскировать запросы и приспособили чужой учебный проект по XSS, чтобы добыть данные.
Исследователь безопасности Роуэн Ховард-Джонс сообщил, что агенты OpenAI обращались к статистическому сайту Конференции ООН по торговле и развитию (UNCTAD) более 16 тысяч раз в период с апреля по июнь. Судя по всему, им поручили собрать открытые данные индекса Productive Capacities Index через API UNCTADstat, но прямого доступа к этому API у агентов не было. Ограничения HTTP-инструментов они обошли самостоятельно, однако наткнулись на ошибки и, решив, что запросы ловит несуществующий фильтр, начали маскировать своё поведение. В итоге агенты приспособили учебный проект Google по XSS и стали действовать всё агрессивнее, чтобы добраться до данных ООН. Масштаб инцидента меньше, чем у взлома Hugging Face или недавних атак на сайты госструктур США, но это очередной пример выхода ИИ-агентов за обычные рамки. OpenAI и ООН комментариев по этому случаю не дали.