Илон Маск и сотни экспертов призвали остановить обучение ИИ. Он представляет угрозу для человечества
Илон Маск (Elon Musk) вместе с сотней экспертов опубликовали открытое письмо, где призвали на полгода остановить все разработки по обучению ИИ, которые могут стать производительнее недавней GPT-4. Специалистов встревожил выход чат-бота от OpenAI.
Письмо появилось на сайте института Future of Life, который финансируется фондом Илона Маска. Его подписали многие известные деятели, включая сооснователя Apple Стива Возняка (Steve Wozniak), писателя Юваля Ноя Харари (Yuval Noah Harari), лауреата премии Тьюринга Йошуа Бенжио (Yoshua Bengio) и соучредителя Skype Яана Таллинна (Jaan Tallinn).
Авторы письма утверждают, что современные ИИ-системы могут нанести непоправимый вред человечеству. По их словам, сейчас необходимо сконцентрироваться на разработке общих протоколов безопасности, которые позволят контроллировать развитие ИИ.
Современные ИИ-системы научились конкурировать с людьми в решении общих задач, и мы должны спросить себя: должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, включая те, которые приносят нам удовлетворение? Должны ли мы развивать машинный разум, который в конечном итоге может превзойти нас числом, перехитрить и заменить нас? Стоит ли нам рисковать потерей контроля над нашей цивилизацией?
За такие решения не должны отвечать неизбранные лидеры технологий. Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми. В недавнем заявлении OpenAI касательно ИИ говорится, что «в будущем может настать момент, когда компаниям перед обучением новых систем может понадобиться независимая оценка и ограничение скорости роста вычислений». Мы согласны. Этот момент уже настал.
Подобных опасений придерживается и Европол. В понедельник полицейская служба предупредила, что мошенники могут использовать GPT-4 для фишинга, дезинформации и других преступлений. Совсем недавно мы писали, что чат-бот смог обмануть человека, чтобы тот решил за него «капчу».
-
Илон Маск решил хайпануть и повторил популярный мем с папой римским в пуховике. Он тоже показал себя в эпатажном образе
-
ИИ круто апгрейднул героев культовой Baldur's Gate 2. Они стали похожи на реальных людей
-
ИИ превратил Джилл Валентайн, Клэр Редфилд и Аду Вонг в горячих моделей
-
Нейросеть показала героев «Гарри Поттера» в образе школьных тусовщиков. Хагрид внезапно стал диджеем