Вы живете в мире фейков: новое исследование показало, что наши глаза не видят разницы между людьми и сгенерированными ИИ

Способность отличать фотографии реальных людей от синтетических изображений, созданных нейросетями, оказалась крайне низкой у большинства людей. Группа исследователей из Университета Нового Южного Уэльса (Австралия) провела масштабное исследование, чтобы выяснить, насколько современный человек готов к вызовам эпохи дипфейков. Результаты показывают, что мы вступаем в эру, где глаза все чаще нас обманывают.

Ученые предложили участникам эксперимента отличить реальные фотографии от портретов, сгенерированных нейросетью StyleGAN2 и люди показывали результаты на уровне случайного угадывания. Их точность не превышала статистическую погрешность — фактически, они просто бросали монетку, принимая решение.

Секрет успеха ИИ кроется в их «гиперсреднестатистичности», алгоритмы усредняют тысячи реальных лиц, создавая некий усредненный портрет. Такие лица кажутся нам удивительно знакомыми и «правильными» — в них нет тех мелких несовершенств, асимметрии и уникальных черт, которые свойственны реальным людям. Проблема различения реальных и синтетических лиц выходит далеко за рамки научного любопытства и уже сегодня дипфейки и сгенерированные лица становятся инструментом для серьезных преступлений.

Исследователи приводят пугающие примеры: мошенники используют ИИ-личности при трудоустройстве, чтобы получить доступ к корпоративным системам; фейковые аккаунты с синтетическими аваторами распространяют дезинформацию; на сайтах знакомств процветают романтические аферы с использованием несуществующих красавцев и красавиц. По прогнозам экспертов, к 2027 году ущерб мировой экономике от дипфейк-мошенничества достигнет 40 миллиардов долларов ежегодно.

Как отмечают ученые, это может иметь серьезные последствия для развития детей, которые сегодня с младенчества видят огромное количество сгенерированных изображений. Их система распознавания лиц формируется в принципиально иной среде, что может изменить само восприятие человеческой внешности у будущих поколений. Исследование подтверждает: в борьбе за визуальную правду мы не можем полагаться только на интуицию. Без технических средств и коллективной проверки даже лучшие из нас — суперраспознаватели — ошибаются почти в половине случаев.

А вы уверены, что смогли бы отличить фото реального человека от сгенерированного нейросетью? Попробуйте мысленно проверить свои последние ленты соцсетей — не общались ли вы с идеальным лицом, которого на самом деле не существует?