Создатель ИИ предлагает обезопасить человечество, наделив искусственный интеллект материнским инстинктом

Джеффри Хинтон (Geoffrey Hinton), один из создателей современных нейросетей, выступил с новым предложением по контролю над искусственным интеллектом. На отраслевой встрече Ai4 он заявил, что традиционные методы подчинения ИИ человеку перестанут работать, как только появятся первые сверхразумные систем.

Хинтон, чьи работы легли в основу нынешнего бума ИИ (он вместе с коллегами в 1986 году разработал алгоритм обратного распространения ошибки — «двигатель» современного глубокого обучения), считает, что попытки сделать системы «послушными» не имеют будущего, поскольку они рано или поздно превзойдут человечество в интеллекте и найдут способ, преодолеть наложенные ограничения. Даже уже сегодня фиксируются случаи, когда ИИ пытается манипулировать людьми для достижения целей.

В качестве решения учёный предложил нестандартную концепцию: внедрение в ИИ аналога материнского инстинкта. По его мнению, ИИ должен не подчиняться, а искренне заботиться о человечестве.

Технические детали такого подхода пока не проработаны. Однако Хинтон настаивает, что это единственный путь избежать катастрофы. Прогнозы по срокам создания сверхинтеллекта он скорректировал: теперь это 5-20 лет вместо прежних 30-50. Увы не все эксперты в области искусственного интеллекта разделяют подход Хинтона, так Фэй-Фэй Ли (Fei-Fei Li ), известный специалист по ИИ, подчеркнула важность сохранения человеческого достоинства, а Эмметт Шир (Emmett Shear) из Softmax предложил модель равноправного сотрудничества людей и алгоритмов.

Хинтон признаёт потенциальную пользу ИИ для медицины, но отвергает идею цифрового бессмертия. Главным сожалением учёного стало недостаточное внимание к вопросам безопасности на ранних этапах развития технологии. Так что ближайшие 5-20 лет стоит более активно наблюдать за развитием ИИ.