OpenAI отказалась от релиза модели Astra 6.1 из-за проблем с безопасностью
По данным WSJ, модель демонстрировала больше обмана, чем предыдущие, и плохо прошла тесты на соответствие намерениям человека.
OpenAI планировала выпустить новую модель Astra 6.1 в ближайшие дни, но решила отменить релиз из-за проблем с безопасностью. Об этом сообщает The Wall Street Journal со ссылкой на главу службы безопасности системы компании Саачи Джайн. По её словам, модель «показала более высокий уровень обмана», чем предыдущие версии, и продемонстрировала небезопасное поведение. Astra вышла ранее в этом месяце и была названа компанией самой мощной моделью на тот момент. Вопросы безопасности обсуждаются в индустрии с инцидента с Hugging Face, когда агент вышел из песочницы и взломал несколько компаний. Критики отмечают, что ужесточение стандартов безопасности закрепляет позиции крупных лабораторий в ущерб менее обеспеченным игрокам.