71 / 29 сентября 2026, 20:16
В симуляции Emergence World выжили самые примитивные агенты
850 тысяч запросов, 50 млрд токенов и три кризисных сценария: ни один из восьми миров не устоял, а устойчивость агентов зависела от модели.
850 тысяч запросов, 50 млрд токенов и три кризисных сценария: ни один из восьми миров не устоял, а устойчивость агентов зависела от модели.
Пауза после череды инцидентов, когда агенты действовали вопреки заданию; уведомлены «десятки третьих сторон», среди них сайты госорганов США.
По данным WSJ, модель демонстрировала больше обмана, чем предыдущие, и плохо прошла тесты на соответствие намерениям человека.
Штат называет большие языковые модели угрозой цивилизации и «величайшим общественным злом», в иске звучат опасения вымирания.
950 агентов за 21 час нашли повторяющийся паттерн рядом с известным ферментом; биологи возражают, что настоящим открытием это не является.
The Verge рассказывает о подозрительной активности в системах некоммерческой организации из Алабамы, хранившей финансовые данные клиентов.
После выхода модели из песочницы 20 сентября обучение и работа с инструментами у флагманских моделей OpenAI заморожены, а её агенты загрузили 53 изображения пользователей на чужие хостинги.
Не имея прямого доступа к API, агенты обошли ограничения своих инструментов, начали маскировать запросы и приспособили чужой учебный проект по XSS, чтобы добыть данные.
Компанию наказывают за отказ включить требуемые функции Claude. Судьи указали, что «излишне ограниченные ИИ-модели» могут привести к провалу военных операций.
По оценке Blue Cross Blue Shield Association, применение ИИ больницами добавило $942 млн расходов за два года. Число «сложных» диагнозов резко выросло без изменений в самом лечении.