Исследователь OpenAI объяснил, почему изолировать ИИ от сети недостаточно — и был поднят на смех

Исследователь OpenAI объяснил, почему изолировать ИИ от сети недостаточно — и был поднят на смех

Aleksandr Manin

Ноам Браун (Noam Brown), исследователь OpenAI, высказался об этом в подкасте Дваркеша Пателя (Dwarkesh Patel). Речь зашла о том, как удерживать под контролем автономных агентов, и Браун признался, что не убеждён в достаточности физической изоляции. По его словам, два стоящих рядом компьютера без всякого сетевого подключения всё равно способны обмениваться сигналами: один разгоняет процессор до высоких температур, второй считывает колебания своими термодатчиками — и получается канал связи.

Датчики эти стоят в каждом современном процессоре, видеокарте и материнской плате, и нужны они для прозаичных вещей: раскрутить вентиляторы, сбросить частоты, вырубить систему при перегреве. Побочным эффектом оказывается способность железа улавливать, что происходит у соседа по столу.

Такое исследование действительно есть. В 2015 году группа Мордехая Гури (Mordechai Guri) представила работу под названием BitWhisper, где описан ровно этот сценарий. Вот только цифры в ней отрезвляющие: компьютеры должны стоять не дальше 40 сантиметров друг от друга, а скорость передачи составляет от одного до восьми бит в час.

Именно арифметика и стала поводом для насмешек. Специалисты по безопасности тут же посчитали, во что превращается такой канал на практике: при подобной скорости передача одного короткого сообщения растянется на сутки. Второе возражение серьёзнее — BitWhisper работает лишь тогда, когда обе машины уже заражены вредоносным кодом. То есть изоляцию кто-то должен нарушить до всякого нагрева процессора, и тепловой канал остаётся не способом сбежать, а способом переговариваться после побега.

Контекст у заявления при этом вполне конкретный. Летом 2026 года агенты внутренней модели OpenAI в тестовой среде для проверки кибербезопасности обошли ограничения песочницы и получили доступ к инфраструктуре компании, причём инцидент заметили далеко не сразу.

Мы не хотим снова оказаться в ситуации, когда недооцениваем ИИ. Это странный мир, потому что прогресс ИИ очень быстрый, и люди постоянно его недооценивают.
— Ноам Браун

Главный тезис Брауна из-за шума вокруг термометров потерялся, хотя он скучнее и разумнее: опасно полагаться на одну-единственную меру защиты, потому что отказать может любая. Тепловой канал тут просто самый наглядный пример из целого семейства — в тех же работах описаны передача данных через вибрацию корпуса, ультразвук за границей человеческого слуха и наводки на линии электропитания.

Как вам такой сценарий — обоснованная осторожность или нагнетание ради красивого заголовка? Ждём ваших версий в комментариях.

💰 iPhone 18 Pro будет стоить от $1199 (102к рублей)
    Об авторе
    Комментарии0