Сатья Наделла призвал внедрить «аварийный тормоз» для ИИ-моделей

Глава Microsoft Сатья Наделла выступил с инициативой по усилению контроля над развитием искусственного интеллекта. Он предложил создать механизмы, позволяющие мгновенно останавливать работу модели в случае сбоя, подобно «аварийному тормозу». Наделла настаивает на необходимости отделения самой модели от системы управления и внедрения внешних защитных барьеров. По его мнению, каждое значимое действие ИИ должно сопровождаться защищенными от подделок доказательствами. Руководитель Microsoft подчеркнул, что системы должны быть спроектированы с учетом возможности компрометации модели. Это призыв к созданию прозрачной и контролируемой архитектуры доверия в сфере ИИ.