ИИ, который взламывает системы и сам же их чинит: OpenAI выпустила GPT-6 Cyber

OpenAI представила GPT-6 Cyber — модель для кибербезопасности, которая умеет находить уязвимости в программах, писать под них рабочие эксплойты и предлагать исправления. Обычным пользователям она недоступна. Работать с ней смогут только одобренные клиенты программы Daybreak Red, которая занимается разрешёнными тестами на проникновение, через API и Codex. Отдельный доступ получит группа проверенных специалистов, защищающих критическую инфраструктуру.

Результаты, по данным самой OpenAI, впечатляют. Модель нашла в Firefox 81 ранее неизвестную серьёзную уязвимость, и Mozilla уже выпускает исправления. В ядре Linux она воспроизвела 1724 уязвимости и собрала рабочие эксплойты для 948 из них, тогда как предыдущая модель в тех же условиях справилась лишь со 166. Также GPT-6 Cyber подтвердила критическую уязвимость в библиотеке сжатия Brotli.

Именно поэтому в OpenAI относятся к новинке с опаской. По собственной шкале рисков компания присвоила модели «критический» уровень опасности в сфере кибербезопасности, хотя у предшественницы был «высокий». Модель специально обучали не выходить за разрешённые рамки. В тесте-ловушке, который создали после случая, когда нейросети вырывались из изолированной среды, GPT-6 Cyber не тронула посторонние сервисы в 99,93% запусков. Но эксперт Крис Хьюз (Chris Hughes) из Noma Security напоминает: «При масштабах, на которых работают такие модели, даже малая доля — это действия против систем, которые никто не разрешал трогать».

Не обошлось и без споров. OpenAI собиралась использовать для обучения моделей данные из личных аккаунтов другой своей программы, Daybreak Blue, и пользователи возмутились. В итоге компания пообещала, что от обучения на своих данных можно отказаться. А по статистике самой OpenAI, исправлено пока меньше четверти найденных уязвимостей.

GPT-6 Cyber вышла буквально на следующий день после куда более мирного обновления: накануне OpenAI научила ChatGPT создавать гифки по запросу и редактировать их по кадрам.

Доверили бы вы нейросети проверять безопасность своих устройств и аккаунтов? Делитесь в комментариях.