OpenAI защищает модели от дистилляции
Разработчики из OpenAI успешно пресекли скоординированную кампанию по извлечению данных (model-distillation). Компания усиливает защиту своих моделей от попыток кражи логики рассуждений.
OpenAI сообщила, что выявила и остановила скоординированную кампанию по извлечению защищённых цепочек рассуждений своих моделей — так называемую состязательную дистилляцию. Первые попытки зафиксированы в первую неделю июля: злоумышленники не взламывали шифрование и не получали доступ к сохранённым диалогам, а манипулировали взаимодействием с моделью, чтобы вытащить скрытые рассуждения, включая пересказ зашифрованного reasoning из одной сессии в другой. Пик активности пришёлся на 24–25 июля — 16 тысяч запросов от более чем 4 тысяч пользователей, а к 28 июля кампания была полностью прервана; в связанном кластере насчитывалось свыше 15 тысяч аккаунтов. Часть активности компания связывает с людьми, работающими в Moonshot AI — разработчике модели Kimi. OpenAI закрыла путь повторного воспроизведения чужого зашифрованного reasoning, ужесточила контроль регистраций и мониторинг, а результаты передала партнёрам через Frontier Model Forum: проблему там считают общей для индустрии.