Ошибка ИИ может спровоцировать ядерную войну: эксперты США и Китая предлагают новые правила

Американские и китайские эксперты по нацбезопасности разработали пакет предложений по ограничению рисков ИИ, сопоставимых по строгости с режимом контроля над ядерным оружием. Об этом сообщает Reuters со ссылкой на доклад, опубликованный на прошлой неделе в преддверии межправительственных переговоров по ИИ и предстоящей встречи Дональда Трампа (Donald Trump) с Си Цзиньпином (Xi Jinping), которая ожидается 24 сентября в Вашингтоне.

Авторами документа названы Мелани Сиссон (Melanie W. Sisson), старший научный сотрудник Brookings Institution, и Тяньцзяо Цзян (Tianjiao Jiang), доцент Университета Фудань. Оба соавтора участвуют в диалоге по ИИ и национальной безопасности между США и Китаем, который Brookings Institution и Университет Цинхуа ведут с 2019 года. Ключевое опасение экспертов — сценарий, при котором система ИИ вмешивается в работу ядерного командования или запускает военную кибероперацию. В таком случае у Вашингтона или Пекина может остаться всего несколько минут, чтобы понять, была ли это реальная атака другой стороны.

Сиссон предлагает ввести «красные линии», запрещающие ИИ самостоятельно решать вопрос о применении ядерного оружия или атаке ядерных командных систем. Она также считает, что право санкционировать значимые кибератаки против ядерного командования, управления, связи и стратегической инфраструктуры должно оставаться за человеком.

Цзян, в свою очередь, предложил создать отдельную военную горячую линию между США и Китаем для сообщений об инцидентах с автономными системами. Она позволила бы одной стороне заранее пояснить, что нештатная активность ИИ была случайной или еще расследуется, прежде чем другая сторона расценит ее как умышленную агрессию. Пока ни Вашингтон, ни Пекин официально не поддержали эту инициативу. При этом Китай уже включил тему ИИ в систему контроля над вооружениями: она входит в портфель департамента МИД КНР, который также занимается ядерным оружием и нераспространением.

К слову, в последнее время исследователи ИИ уходят из крупных компаний в связи с рисками безопасности.

Как думаете, могут ли «красные линии» для ИИ реально снизить риск военной эскалации между США и Китаем?