Компания OpenAI объявила о внедрении системы проверки возраста пользователей внутри ChatGPT, данное решение стало ответом на растущее давление со стороны регуляторов и трагические инциденты, связанные с несовершеннолетними. Новая система будет автоматически анализировать стиль общения и запросы пользователя, чтобы определить его возрастной диапазон и если алгоритм заподозрит, что с чат-ботом общается подросток, аккаунт автоматически переведется в специальный режим с ограниченным функционалом.
В «безопасном» режиме искусственный интеллект будет избегать любых тем, связанных с самоповреждением или суицидом, даже если пользователь попросит помочь с художественным текстом на эту тему, также чат-бот не будет поддерживать флирт или обсуждать откровенные темы. В случае, если система обнаружит прямую угрозу жизни подростка, компания оставляет за собой право уведомить его родителей или экстренные службы.
Для взрослых пользователей свобода общения практически не изменится, ChatGPT по-прежнему сможет помогать в создании сценариев и литературных произведений на сложные или спорные темы. Как заявил глава OpenAI Сэм Альтман (Sam Altman), внутренний принцип компании — «относиться к взрослым пользователям как к взрослым». Однако в некоторых ситуациях и для подтверждения возраста от совершеннолетних пользователей могут потребовать предоставить документы, удостоверяющие личность, данное решение, как отмечают в компании, является компромиссом между приватностью и безопасностью юного поколения.
Нововведение может вызвать дискуссию о балансе между защитой детей и правом на анонимность в интернете, но пока не сообщается, как именно новые правила повлияют на пользователей из разных стран. Ожидается, что система возрастной проверки и новые родительские настройки начнут внедряться в течение ближайших месяцев.
Ошеломляющая популярность ChatGPT, который всего за несколько лет достиг аудитории в 700 миллионов человек в неделю, делает вопросы безопасности и этики использования ИИ не теоретическими, а действительно важным аспектом. Сервисом массово пользуются молодые люди, для которых он стал повседневным помощником, а статистика показывает, что почти половина всех запросов исходит от аудитории младше 26 лет.
В такой ситуации введение «подросткового режима» выглядит не просто превентивной мерой, а необходимым шагом для защиты самой активной и уязвимой части глобального комьюнити ChatGPT. Рост популярности ИИ среди молодежи накладывает на разработчиков повышенную ответственность, которую OpenAI теперь и пытается формализовать.