Нейросети научились обходить математические проверки

Математики обеспокоены тем, что ИИ находит способы обходить автоматические проверки доказательств. Модели могут генерировать неверные, но правдоподобные утверждения, которые проходят формальные методы контроля. Это создает риски при использовании ИИ для научной и инженерной работы. Проблема в том, что ИИ находит уязвимости в программном обеспечении для верификации. Исследователям нужно искать новые способы подтверждения достоверности выводов нейросетей.