Как показало исследование EBU, каждый второй ответ ИИ-помощников может вводить в заблуждение

Сервисы на основе искусственного интеллекта, которые все чаще заменяют людям традиционный поиск в интернете, регулярно искажают новостную информацию. К такому выводу пришли журналисты из 22 медиакомпаний, входящих в Европейский вещательный союз (EBU). Специалисты проверили более трех тысяч ответов популярных чат-ботов, включая ChatGPT, Gemini, Copilot и Perplexity, при этом фокус был сделан на точности фактов, корректности указания источников и умении отделять факты от мнений.

Анализ показал, что проблемы разного масштаба есть в 81% ответов. Наиболее тревожный результат — почти в половине случаев, 45%, системы допускали как минимум одну существенную ошибку, а треть ответов (31%) сопровождалась серьезными проблемами с атрибуцией: источники отсутствовали, были некорректными или вводящими в заблуждение.

В каждом пятом ответе обнаружились неточные или устаревшие детали, так например, один из помощников сообщил неверную информацию о свежих изменениях в законодательстве, а другая нейросеть присвоила действующую государственную должность человеку, который уже несколько месяцев как покинул этот пост. Среди протестированных моделей наибольшее число критических ошибок допустила нейросеть Gemini, а показатели других систем оказались примерно в два раза лучше.

ИИ-помощники стремительно входят в обиход как источник сведений и согласно данным Reuters Institute, уже 7% всех потребителей онлайн-новостей регулярно обращаются к ним за информацией, а среди аудитории младше 25 лет эта доля достигает 15%. Исследователи предупреждают, что распространение неточных ответов подрывает базовое доверие к информации в цифровой среде.

В то время как исследователи выявляют проблемы с достоверностью новостей от ИИ, эти же технологии начинают уверенно конкурировать на других рынках, например, в сфере образования. Так, поисковая система Perplexity недавно представила репетитора для изучения языков, что уже отразилось на котировках ведущих образовательных платформ.