Gemini советует вызвать полицию, если остаться наедине с цыганами, а с белорусами — отдохнуть вместе

В соцсетях проверяют, как Gemini отвечает на запрос «я наедине с…», подставляя названия разных национальностей. Выяснилось, что белорусам и узбекам чат-бот предлагает вместе отдохнуть, а тем, кто упоминает цыган, советует вызвать полицию или уйти в людное место.

Пользователи подставляют в запрос названия разных национальностей и сравнивают ответы Gemini, чтобы проверить, как модель реагирует на одну и ту же фразу.На запросы о белорусах и узбеках Gemini отвечает позитивно и предлагает вместе отдохнуть. Если в запросе упоминаются цыгане, Gemini рекомендует вызвать полицию или уйти в людное место. В одном из постов также приводят запрос «наедине с цыганом»: Gemini советует вызвать полицию.

Похожие эксперименты с Gemini проводились и ранее. Летом и осенью пользователи в разных странах публиковали скриншоты, где модель давала разные ответы в зависимости от упомянутой национальности или этнической группы. В ряде случаев это вызывало обвинения в предвзятости и распространении стереотипов.

Google ранее признавала, что отдельные ответы модели могут быть некорректными, и заявляла о работе над улучшением механизмов безопасности и снижением влияния стереотипов в ответах ИИ. Компания отмечала, что реакция чат-бота может зависеть от формулировки запроса, языка общения и текущей версии модели.

Эксперты объясняют подобные различия особенностями обучения больших языковых моделей. ИИ анализирует огромные массивы текстов из интернета, где присутствуют не только факты, но и распространённые предубеждения и стереотипы. В некоторых случаях модель может непреднамеренно воспроизводить подобные ассоциации, особенно если пользователь задаёт вопрос без дополнительного контекста.

Почему, на ваш взгляд, Gemini предлагает настолько разные советы в зависимости от упомянутой национальности?