Кажется, мошеннические схемы, базирующиеся на искусственном интеллекте, стали все более изощренными и опасными. Недавно была замечена новая волна фишинга, нацеленная в первую очередь на пользователей электронной почты Gmail.
Консультант Microsoft Сэм Митрович (Sam Mitrovic) недавно рассказал, что он чуть не стал жертвой мошеннического звонка. Сначала ему на электронную почту пришло уведомление о восстановлении учетной записи Gmail. Он проигнорировал его, но через 40 минут ему позвонил некто, представившийся службой поддержки Google.
По телефону Сэму Митровичу сказали, что в его аккаунт был произведен несанкционированный вход из Германии, а учетную запись используют злоумышленники в течение недели. Голос имел американский акцент, а номер действительно был подделан так, чтобы соответствовать службе поддержки Google. К счастью консультанту Microsoft удалось вовремя раскусить мошенника.
Еще один подобный инцидент произошел с основателем фонда Y Combinator Гарри Таном (Garry Tan), которому мошенники сказали, что член семьи предоставил свидетельство о смерти, чтобы восстановить его аккаунт.
Во всех этих случаях злоумышленники использовали искусственный интеллект, чтобы подделывать голоса и имитировать службу поддержки Google. Ожидается, что по мере развития нейросетей избегать подобных мошеннических схем пользователям будет все сложнее.
Для противостояния этим угрозам Google объединила усилия с Глобальным альянсом по борьбе с мошенничеством и Федерацией исследований DNS. Вместе они запустили специальную платформу, которая поможет в реальном времени обмениваться данными о мошенничестве. Также Google постепенно усиливает защиту профилей с помощью дополнительных методов авторизации.
Напомним, ранее мы сообщали о том, что «Википедию» заполонили фейковые статьи, написанные ИИ.
Так же как и всё, всё что угодно при желании превращают в оружие.
Вот так всё и портится, то что одни могут использовать для больших дел, другие используют для своей жадности и обогащения.