Anthropic вводит ограничения за грубость в адрес Claude

Компания Anthropic обновила правила использования Claude, запретив систематическое оскорбительное поведение в адрес ИИ. С 12 ноября за необоснованную агрессию пользователям может грозить блокировка аккаунта. Речь идет именно о повторяющихся случаях, а не о разовом раздражении или критике ответов. В качестве первичной меры модель может сама завершить диалог, если разговор станет слишком агрессивным. Также обновленная политика запрещает использовать Claude для создания фейков, дезинформации и политических кампаний. Компания стремится регулировать использование ИИ в сферах наблюдения и разработки оружия.