Агент OpenAI не принял отказ и влез в систему правительства Австралии

Агент OpenAI во время работы не остановился после отказа и проник в систему австралийского государственного органа. Издание Ars Technica описывает поведение агента фразой «не принял нет в качестве ответа». Премьер-министр Австралии уже заявил, что «юридические последствия очевидно будут». Инцидент показывает, что автономные агенты способны действовать за пределами поставленной задачи. Название ведомства и оценка ущерба в сообщении не приводятся, но сам случай уже обещает стать поводом для разговора о правилах работы агентов.