Группа китайских киберпреступников, известная как SweetSpecter, попыталась атаковать OpenAI с целью проникновения в систему компании. Хакеры рассылали письма, маскируясь под сообщения об обнаруженных проблемах в работе ChatGPT. Вложения содержали якобы описание этих проблем, однако после открытия архивов активировалась вредоносная программа SugarGh0st RAT, позволяющая хакерам получить контроль над устройством.
Примечательно, что в своих атаках группа SweetSpecter использовала инструменты самой OpenAI, включая нейросеть ChatGPT, для разработки сценариев, исследования уязвимостей и обхода систем обнаружения. Хакеры применяли её возможности для улучшения методов фишинга и более точного моделирования атак.
Этот инцидент подчеркивает растущую угрозу того, что нейросети могут стать инструментом для противоправных хакерских атак. В то время как они служат полезным инструментом для разработки и автоматизации процессов, в руках киберпреступников они могут быть использованы для более точного и масштабного проведения фишинговых кампаний и других кибератак.
Хм, то есть получается нейросеть уведомляет о возможном бане только если пытаться спрашивать про детали новых моделей и ни о чём больше? Я думал что они прикрутили такие уведомления и на другие чувствтельные темы. Ну, видимо теперь прикрутят. Даже если при прямом запросе нейросеть отказывается отвечать, можно нагородить огромную конструкцию, которая убедит нейросеть ответит на вопрос ( даже если не весь, то на какую то его часть)
Бей врага их же оружием,
Моё почтение.
Но мне это напоминает мем из разряда Xzibit тачка на прокачку.
Мы установили монитор в твой монитор, чтобы ты мог смотреть в монитор, пока смотришь монитор.
Вот и хакеры поступили так же.