Microsoft официально подтвердила потенциальные риски безопасности, связанные с внедрением в Windows 11 ИИ-агентов. Согласно документам компании, эти системы могут быть «обмануты» злоумышленниками и быть использованы для загрузки и установки вредоносного программного обеспечения.
Новая функция предназначена для автоматизации рутинных задач, однако её архитектура создает новые возможности для атак. Специалисты по кибербезопасности внутри Microsoft выделили конкретную угрозу — «межперекрёстное внедрение промпта» (cross-prompt injection), что позволяет скрытому коду в обычном документе или на веб-странице перехватить управление агентом и заставить его выполнить инструкции хакеров.
По сути цифровой помощник, имеющий доступ к системе, может превратиться в инструмент для заражения компьютера вредоносным ПО. Агент, действуя по скомпрометированной инструкции, способен самостоятельно скачать и запустить опасный файл, не запрашивая явного разрешения у пользователя. Осознавая серьезность угрозы, Microsoft приняла решение отключать эти экспериментальные функции по умолчанию для всех пользователей, а для их включения потребуются права администратора. Компания прямо рекомендует активировать настройку лишь тем, кто полностью понимает все возможные последствия.
Для минимизации рисков разработчики закладывают в систему несколько принципов безопасности. Каждое действие агента будет записываться в защищенный журнал, а для выполнения потенциально опасных операций может потребоваться одобрение пользователя, но, как показывает практика, ни одна сложная система не может быть полностью защищена от неизвестных уязвимостей.
Первые тестовые сборки с этими возможностями уже распространяются среди участников программы Windows Insiders. Это означает, что эра автономного ИИ в операционных системах началась, неся с собой не только новые возможности, но и новые, пока еще не до конца изученные, риски.