Издеваться над нейросетью скоро станет нарушением правил — по крайней мере у Anthropic

Anthropic обновила правила использования своих сервисов и добавила запрет на «систематическое и бессмысленное оскорбительное или жестокое обращение» со своими моделями. Новая редакция вступит в силу 12 ноября. Компания подчёркивает, что речь только о крайних случаях: обычное раздражение, споры с ботом и мрачные творческие темы под правило не попадают.

Сама возможность прекращать такие диалоги появилась у Claude ещё в августе 2025 года: модель может завершить разговор, если пользователь упорно продолжает оскорбления, и компания рассчитывает, что в большинстве случаев этим всё и ограничится. Новое в том, что жестокость к моделям теперь прямо названа нарушением правил.

Anthropic не связывает нововведение с конкретными событиями, но оно появилось на фоне скандала вокруг проекта «камера пыток для ИИ». После того как исследователи заявили, что нашли в языковых моделях своеобразную «ось боли», энтузиаст решил буквально «пытать» чат-ботов, и их отчаянные ответы вызвали волну критики. Кроме того, по данным журналистов, представители Anthropic недавно встречались с религиозными и философскими лидерами, в том числе в Ватикане, хотя папа Лев заявил, что ИИ не способен чувствовать и страдать.

Нашлись и противники: независимая журналистка Кэт Тенбардж (Kat Tenbarge) считает, что технологические компании скорее начнут бороться с насилием против ИИ, чем с насилием против женщин и меньшинств.

Обновили и правила, связанные с выборами. Раздел теперь называется «Не подрывайте демократические процессы» и запрещает ложь о кандидатах и о том, как голосовать, выдачу себя за кандидатов или сотрудников избиркомов, а также подавление явки. Зато общий запрет на персонализированную агитацию убрали: по словам компании, он мог мешать безобидным задачам вроде перевода памяток для избирателей.

Как думаете, нужны ли такие правила для ИИ? Пишите в комментариях.