Sony создаст виртуальных геймеров, чтобы вычислять мошенников в PlayStation

В патентной базе США появилась заявка Sony, описывающая систему автоматического выявления опасных пользователей в сетевых сервисах PlayStation.

Центральный элемент разработки — псевдоаккаунт, управляемый искусственным интеллектом. Такой профиль создаётся платформой и внешне ничем не отличается от учётной записи живого человека. ИИ имитирует определённую демографическую группу, стиль переписки и поведенческие паттерны. Управлять таким «приманочным» профилем предлагается с помощью большой языковой модели — в заявке упомянуты генеративные предобученные трансформеры, аналогичные GPT. Подозрительный пользователь начинает диалог с ИИ-аккаунтом, а алгоритм в фоновом режиме анализирует его поведение.

В патентной заявке перечислен ряд действий, которые могут стать основанием для пометки учётной записи как потенциально опасной:

Важно, что сам факт контакта с ИИ-профилем не ведёт к автоматической блокировке. Вместо этого система фиксирует взаимодействие как один из сигналов подозрительной активности и продолжает наблюдение. Если такой пользователь позже попытается выйти на реального игрока, платформа может заранее предупредить потенциальную жертву или применить дополнительные меры защиты. Сейчас модерация во многом зависит от жалоб самих пользователей и схема стандартная: нарушитель вступает в контакт с ребёнком, происходит нежелательное общение, затем родители или пострадавший подают жалобу, и только после этого начинается разбирательство. Новая технология призвана выявлять подозрительные паттерны до того, как реальный человек окажется втянут в опасную переписку.

Вопрос этической стороны такого подхода остаётся открытым: одно дело — ловить мошенников, и совсем другое — когда платформа начинает массово создавать виртуальные личности, имитирующие реальных людей. Насколько комфортно игрокам осознавать, что их собеседник в чате может оказаться алгоритмом?

А как вы относитесь к подобной практике — считаете ли вы оправданным использование ИИ-«приманок» для защиты игроков, или это слишком invasive для личного пространства в онлайне? Делитесь мнением в комментариях.