Основатели современного ИИ призвали остановить разработку сверхразумных систем

Гонка технологических гигантов за созданием искусственного интеллекта, превосходящего человеческие возможности, столкнулась с беспрецедентной критикой со стороны самих основателей индустрии. Стив Возняк (Steve Wozniak), соучредитель Apple, и Джеффри Хинтон (Geoffrey Hinton) с Йошуа Бенжио (Yoshua Bengio), которые считаются создателями современных нейросетей, оказались среди сотен подписантов открытого обращения с требованием запретить разработку сверхразумного ИИ.

Инициатором письма выступила организация Future of Life Institute, занимающаяся вопросами безопасности искусственного интеллекта, при этом авторы заявления признают потенциальные выгоды от новых технологий, но указывают на катастрофические риски, которые несут неконтролируемые эксперименты. Они настаивают, что работы должны быть приостановлены до момента, когда международное научное сообщество не докажет безопасность таких систем, а общество не будет готово к их внедрению.

Список подписавшихся оказался необычно разнородным, что подчеркивает широту обеспокоенности. В нем рядом с именами ведущих исследователей оказались политики разного толка, музыканты, в том числе Grimes, и даже представители королевских семей, ведь всех объединяет их общий страх — создание разума, который человек не сможет понять и, что самое важное, — контролировать.

Стоит отметить, что это уже не первая попытка экспертов повлиять на развитие отрасли. В прошлом году похожее обращение подписал Илон Маск (Elon Musk ), однако оно не возымело заметного эффекта. Несмотря на опасение, некоторых людей, глава OpenAI Сэм Альтман (Sam Altman) прогнозирует появление сверхразума к 2030 году, а Марк Цукерберг (Mark Zuckerberg) объявил о реструктуризации собственного ИИ направления, чтобы сконцентрироваться на этой цели.

Призывы к осторожности находят поддержку в обществе и согласно данным опросов, большинство жителей США выступают за строгое регулирование ИИ и считают, что его не следует создавать без доказательств безопасности, однако пока неясно, смогут ли голоса скептиков перевесить многомиллиардные инвестиции и амбиции корпораций, решивших любой ценой добиться технологического превосходства.