ИИ может уничтожить человечество к 2036 году — вероятность оценивают в 50%

Президент Института исследований машинного интеллекта (MIRI) Нейт Соарес (Nate Soares) считает, что вероятность гибели человечества из-за искусственного интеллекта в ближайшие десять лет превышает 50%. По словам исследователя, он настолько серьёзно относится к этому риску, что уже около десяти лет не пополняет пенсионные накопления.

Соарес объясняет свои опасения возможностью появления ИИ, который превзойдёт человека по интеллекту и начнёт действовать вопреки его интересам. По его сценарию, такая система сможет уклоняться от контроля, самостоятельно совершенствовать свои возможности и создавать инфраструктуру, необходимую для работы без участия людей. В результате ИИ потенциально сможет перестроить окружающий мир под собственные цели, сделав его непригодным для человеческой жизни. Для снижения рисков Соарес предлагает приостановить обучение универсальных моделей ИИ, способных выполнять широкий круг задач, и сосредоточиться на более узкоспециализированных решениях.

Соарес не единственный исследователь, который предупреждает о возможных катастрофических последствиях развития ИИ, так исследователь Anthropic Эван Хубингер (Evan Hubinger) называл вероятность такого исхода превышающей 10%, а в международном докладе по безопасности ИИ, опубликованном в феврале 2026 года при участии около сотни экспертов из 30 стран, риск потери контроля над такими системами характеризуется как имеющий неопределённую вероятность, но потенциально чрезвычайно тяжёлые последствия.

Главная проблема заключается в том, что наиболее опасные сценарии предполагают появление систем с возможностями, существенно превосходящими современные модели. Для реализации подобных сценариев ИИ должен получить возможность самостоятельно совершенствовать свои способности, обходить ограничения и воздействовать на критически важную инфраструктуру. Насколько быстро технологии смогут достичь такого уровня и смогут ли вообще, пока неизвестно. Поэтому оценки риска зависят в том числе от предположений исследователей о темпах развития ИИ и способности разработчиков сохранять контроль над своими системами.

Быстрое развитие искусственного интеллекта уже вызывает опасения по поводу кибербезопасности, применения автономных систем в военной сфере и последствий автоматизации для рынка труда. Однако эти проблемы не следует автоматически приравнивать к сценарию полного вымирания человечества: для каждого из них существуют собственные механизмы возникновения и оценки рисков. Прогноз следует рассматривать как предупреждение исследователя о возможных последствиях неконтролируемого развития технологий, а не как установленный срок наступления катастрофы.

Как вы считаете, следует ли ограничить разработку наиболее мощных систем искусственного интеллекта из-за потенциальной угрозы человечеству, даже если вероятность катастрофы невозможно достоверно оценить?