Дешёвый прогноз, дорогая проверка: кто платит за страх перед ИИ
Автор переносит механизм «создать дёшево, проверить дорого» с кода на прогнозы об ИИ и показывает, почему у прогноза нет проверочного якоря.
Статья — авторский ответ на недавний разбор «цены кода», и рамку автор берёт у собеседника: у кода есть цена написания и цена владения, и со временем они разъехались в разные стороны. Механизм «создать дёшево, проверить дорого» он показывает на мейнтейнерах открытых проектов: отчёт о несуществующей уязвимости пишется за минуты и центы, а проверять его живому человеку — часы. Свой тезис автор формулирует так: следующая строка счёта приходит не коду, а прогнозам о нём — ИИ не изобрёл дешёвый прогноз, но убрал последнюю цену, цену упаковки, и правдоподобные заметки с цифрами теперь штампуются пачками. Главное различие он видит в якоре: у кода есть независимая проверка — тест упадёт, если обещанное не работает, — а у прогноза якоря нет, и за ошибку никто не платит. Из данных приводится исследование METR: опытные разработчики с ИИ-помощниками выполняли задачи примерно на 20% медленнее, хотя сами считали, что ускорились, а в феврале METR изменила дизайн эксперимента. Цена владения показана на двух обезличенных проектах автора и его серверах.