ИИ для поиска уязвимостей утёк в сеть и причина оказалась не в хакерах

Anthropic оказалась в центре неприятного инцидента, так группа сторонних энтузиастов получила несанкционированный доступ к экспериментальной версии ИИ-модели Mythos — той самой, которую компания намеренно не выпускает в открытый доступ из-за её потенциальной опасности в чужих руках. Инструмент, заточенный под поиск киберуязвимостей, утёк не в результате прямой хакерской атаки на серверы Anthropic, а через цепочку доверия с участием стороннего подрядчика.

О факте утечки сообщило агентство Bloomberg. В первых числах апреля Anthropic анонсировала Claude Mythos Preview в рамках инициативы Project Glasswing и доступ к модели получили лишь избранные корпоративные партнёры, включая Google, Apple, Microsoft, NVIDIA и Amazon. Канал утечки — один из порталов, который использует подрядчик Anthropic. Участники закрытого сообщества в Discord, специализирующегося на поиске информации о ещё не анонсированных нейросетях, не стали взламывать защиту с помощью эксплойтов, а применили логический перебор и догадки о том, как именно Anthropic выстраивает инфраструктуру для своих тестовых сборок. То есть сработала не столько хитроумная хакерская атака, сколько слабое звено в цепочке поставщиков и некоторая предсказуемость внутренних процессов.

В Anthropic отреагировали оперативно и представитель компании заявил, что уже ведётся расследование инцидента, при этом в компании подчеркнули, что на данный момент нет доказательств того, что инцидент как-либо затронул основные системы Anthropic или привёл к компрометации данных клиентов. Вопрос не к факту утечки как таковой, а к профилю самой модели. Mythos, по официальным данным, заточен на поиск уязвимостей нулевого дня в операционных системах и браузерах. Уже на этапе закрытого тестирования он помог Mozilla выявить и закрыть 271 проблему в Firefox. Такой инструмент в руках защитников — мощный щит, но оказавшись у злоумышленников, он превращается в идеального разведчика для атак. Именно поэтому Anthropic с самого начала пошла по пути ограниченного распространения, опасаясь «системных рисков» при массовом развёртывании.

Группа, получившая доступ к Mythos, по данным тех же источников, не имела злого умысла, в частном чате Discord они утверждали, что их интерес сугубо исследовательский — «пощупать новую модель и разобраться в её возможностях». Однако сам прецедент ставит под вопрос модель дистрибуции мощных ИИ-продуктов через закрытые клубы партнёров. Чем больше посредников, тем выше вероятность повторения сценария с человеческим фактором или небрежностью на стороне подрядчика. С Claude был ещё один интересный случай, когда с его помощью взломали правительство Мексики.

Пока неизвестно, будет ли после этого инцидента изменена политика работы со сторонними вендорами или же компания ограничится точечными исправлениями в протоколах безопасности. Ясно одно: граница между инструментом защиты и инструментом нападения в мире ИИ снова оказалась тоньше, чем хотелось бы разработчикам.

А вы как считаете, стоит ли компаниям в принципе создавать настолько мощные ИИ-инструменты для кибербезопасности, если существует риск их попадания не в те руки? Делитесь мнением в комментариях.