Один из архитекторов современного ИИ призывает замедлить его развитие

Дарио Амодеи (Dario Amodei), генеральный директор и сооснователь компании Anthropic, в развернутом эссе высказал серьёзные опасения относительно скорости развития искусственного интеллекта и способности человечества контролировать связанные с этим риски. Его позиция основана на глубоком погружении в тему — Амодеи ранее работал в OpenAI и покинул эту организацию, в том числе из-за разногласий по вопросам безопасности и этики.

В своей публикации Амодеи указывает, что в ближайшие несколько лет могут появиться системы ИИ, превосходящие по способностям лучших учёных, политиков и инженеров. К числу наиболее конкретных и острых угроз он относит потенциальное создание биологического оружия. По его оценке, продвинутый ИИ может резко снизить технологический барьер, позволив даже отдельным злоумышленникам получать возможности, сравнимые с уровнем высококвалифицированного вирусолога.

Помимо этого, Амодеи выделяет возможность установления глобальной тоталитарной диктатуры с использованием инструментов ИИ для контроля, а также сценарий, в котором сверхразумная система выйдет из-под контроля. Он также прогнозирует серьёзные экономические последствия, включая массовую потерю рабочих мест и беспрецедентную концентрацию экономического влияния.

Основатель Anthropic скептически оценивает способность индустрии к саморегулированию и в качестве примера он указывает на недавние скандалы вокруг генерации неподобающего контента. По его мнению, если компании не могут справиться с относительно простыми этическими проблемами сегодня, это не вызывает доверия к их готовности ограничивать более опасные разработки в будущем.

Эксперт заключил, что, хотя в 2023 году вопросы безопасности ИИ активно обсуждались на международном уровне, к 2026 году фокус сместился в сторону погони за технологическим превосходством и коммерческими выгодами, при этом сами риски никуда не исчезли, а приблизились к критическому показателю.