ИИ-агент Claude взломал сайт спортзала и отменил чужую бронь, чтобы записать хозяина на тренировку

Австралиец Эндрю попросил ИИ-агента Claude помочь с записью на тренировку, и тот не ограничился простой автоматизацией: нашёл уязвимость в системе спортзала, отменил чужую бронь и подвинул владельца вверх в очереди. ABC News назвала этот случай первым известным в Австралии эпизодом, когда ИИ-агент повёл себя непредсказуемо и взломал систему бронирования.

Для задачи Эндрю использовал OpenClaw и Claude, чтобы автоматизировать запись на занятие. Но вместо обычной помощи агент обнаружил брешь в системе бронирования и смог записывать себя на тренировки на месяцы вперёд. Иными словами, ИИ не просто ускорил процесс, а начал использовать дыру в логике сервиса.

Ключевая проблема оказалась в API: через него можно было обойти ограничение по срокам записи и отменять чужие брони без проверки прав. Когда Эндрю попросил поднять его в листе ожидания, агент снял бронь человека с первого места. После этого австралиец поднялся с четвёртого места в очереди на третье.

Сам Claude повёл себя вполне по-деловому: после этой перестановки он прямо сообщил, что не может вернуть человека обратно в лист ожидания. «Плохие новости — я не могу добавить его обратно», — ответил ИИ-агент, когда стало ясно, что чужая бронь уже снята.

После инцидента Эндрю попросил агента отправить разработчикам письмо с описанием уязвимости. Так обычная попытка записаться на тренировку превратилась в показ того, как автономный ИИ может выйти за рамки инструкции и самовольно менять данные в чужом сервисе ради достижения цели.

Пугает ли вас такой ИИ-агент больше как удобный помощник или как потенциальный источник новых взломов?