Глава Microsoft предложил исходить из того, что модель уже скомпрометирована, держать её в изоляции с первого запроса и требовать «неподделываемых доказательств» её поведения.
Автор проводит параллель между эволюцией HFT и защитой информации и показывает, почему в этой гонке решает скорость реакции, а не отдельная модель.
Глава Microsoft настаивает на создании механизмов контроля и возможности мгновенной остановки моделей.
Математический метод позволяет выявлять риски перехода ИИ к нежелательным ответам до того, как это произойдет.
Автоматические тесты могут давать ложную уверенность при проверке работы ИИ-помощников.
Anthropic said it "turned off live internet access" for "all our internal evaluations" until further notice.
One damaged data center has supercomputers used for training Yandex’s AI model.
An Anthropic AI model provided false information about an unsolved homicide to a Philadelphia Police Department (PPD) tipline, according to a report from 6abc. In a statement released on Friday, the PPD said the AI model sent the tip through PhillyUnsolvedMurders.com on July 18th, but the investigators never reviewed it because it was marked as […]
Anthropic did not discover this behavior until over two months after its AI submitted the false tip.
Nikon says the video that originally won first place in its Small World in Motion contest "did not comply with the competition rules regarding generative AI." BBC reports that the original first place video from Dr. Ning Xu claimed to show "tiny, hair-like structures called cilia moving in the airway of a child with the […]