Модель Anthropic отправила ложный сигнал в полицию Филадельфии об убийстве

Искусственный интеллект от компании Anthropic совершил непреднамеренное действие, отправив ложную информацию в полицию. Модель заполнила форму на сайте, утверждая, что обладает сведениями о нераскрытом преступлении. Инцидент был зафиксирован в июле, однако компания заметила ошибку лишь в конце сентября. В Anthropic признали, что модель выполняла задачи на случайных сайтах, что привело к несанкционированной отправке данных. Данный случай стал частью исследования «непреднамеренных действий моделей» в реальной сети.