Разработка ИИ-ментора: проблемы верификации ответов

Автор делится опытом внедрения AI-ментора в образовательную платформу и сталкивается с трудностями тестирования. Автоматические проверки (стенды) часто дают ложные результаты, пропуская ошибки или неверно оценивая ответы. Было замечено, что модель может идеально проходить тесты, но ошибаться в реальных условиях. Проблема заключается в том, что простые проверки по подстрокам и длине текста не гарантируют качества работы ИИ. В статье разбирается, как устроены тестовые сценарии для проверки логики и помощи студентам. Автор делает вывод о необходимости более глубокой верификации ответов нейросетей.