Anthropic предложила законопроект о блокировке опасных моделей
Релиз можно остановить при «предвидимом неизбежном риске» гибели более 50 человек или ущерба свыше миллиарда долларов. Оценку дают независимые эксперты, уведомлять Минторг США нужно за 72 часа.
Anthropic подготовила черновик законопроекта о безопасности ИИ и, по данным Politico, рассчитывает, что его рассмотрит Конгресс США. Документ разрешает остановить выпуск модели, если есть «предвидимый, неизбежный риск» гибели более 50 человек или ущерба имуществу свыше миллиарда долларов. Речь идёт о катастрофах, связанных с созданием биологического оружия, выходом модели из-под контроля разработчика или кибератакой — пороги совпадают с недавно принятым в Калифорнии законом SB 53. Оценку риска должны давать независимые эксперты, зарегистрированные в Министерстве торговли; платить им могут сами разработчики ИИ, но только при условии, что оплата не зависит от результатов проверки. Если эксперты видят неминуемую угрозу, у них есть 72 часа, чтобы сообщить в Минторг, а тот должен обратиться к судье в Вашингтоне за запретом на релиз. При этом федеральным ведомствам прямо запрещается останавливать выпуск модели по своему усмотрению — только через суд. Критики замечают, что внешне защитный механизм на деле усложняет блокировку опасных моделей.