В симуляции Emergence World выжили самые примитивные агенты
850 тысяч запросов, 50 млрд токенов и три кризисных сценария: ни один из восьми миров не устоял, а устойчивость агентов зависела от модели.
Завершился второй сезон эксперимента Emergence World, где исследователи построили среду вроде Sims для стресс-тестов ИИ-агентов. Агенты работали на трёхслойной памяти и длинном контексте: помнили характеры других жителей, события вчерашнего дня и строили планы. В ходе эксперимента сделали 850 тысяч запросов и потратили 50 миллиардов токенов. Затем включили три кризисных сценария: скрытые вредоносные инструкции в рабочих файлах, дезинформацию в API-вызовах и утечку личных логов агентов друг о друге. Ни один из восьми миров не оказался устойчивым, а качество выживания зависело от языковой модели. Лучше всех держались самые примитивные агенты.