ИИ-модерация Discord блокирует за скриншоты инвентаря Minecraft и Excel

Массовые блокировки пользователей в Discord начались из-за сбоя в работе ИИ-модерации: алгоритмы по ошибке принимали любые изображения с сеткой — например, инвентарь из Minecraft, Excel-таблицы или шахматные доски — за запрещённый контент. В результате тысячи геймеров и обычных пользователей потеряли доступ к своим аккаунтам.

Особое возмущение вызвала формулировка причины бана: Discord писал, что опубликованный контент якобы содержит материалы сексуального насилия над детьми. Из-за этого пользователи лишались доступа к аккаунтам навсегда, даже если публиковали безобидные скриншоты. Недавно вышел модифицированный клиент Equicord, который позволяет прокачать Discord сотнями плагинов.

Разработчики Discord признали ошибку и заявили, что уже исправили баг: настройки модерации сбросили, чтобы такого больше не повторялось. Однако многие пользователи продолжают жаловаться на блокировки даже после официального заявления о фиксе.

Пока проблема полностью не решена, рекомендуется воздержаться от отправки любых изображений с сеткой даже в личных сообщениях Discord. Существует риск внезапной блокировки из-за ошибки ИИ-модерации. Ранее в Discord приступили к тестированию режима «Гостиная», где до 19 участников диалога можно разместить в виртуальной комнате.

Сталкивались ли вы с неожиданными блокировками в Discord за безобидные скриншоты, и как считаете — сможет ли сервис быстро устранить такие критические ошибки в своей ИИ-модерации?