Хакеры попытались взломать создателей ChatGPT, используя ChatGPT

Группа китайских киберпреступников, известная как SweetSpecter, попыталась атаковать OpenAI с целью проникновения в систему компании. Хакеры рассылали письма, маскируясь под сообщения об обнаруженных проблемах в работе ChatGPT. Вложения содержали якобы описание этих проблем, однако после открытия архивов активировалась вредоносная программа SugarGh0st RAT, позволяющая хакерам получить контроль над устройством.

Примечательно, что в своих атаках группа SweetSpecter использовала инструменты самой OpenAI, включая нейросеть ChatGPT, для разработки сценариев, исследования уязвимостей и обхода систем обнаружения. Хакеры применяли её возможности для улучшения методов фишинга и более точного моделирования атак.

Этот инцидент подчеркивает растущую угрозу того, что нейросети могут стать инструментом для противоправных хакерских атак. В то время как они служат полезным инструментом для разработки и автоматизации процессов, в руках киберпреступников они могут быть использованы для более точного и масштабного проведения фишинговых кампаний и других кибератак.