Илон Маск и сотни экспертов призвали остановить обучение ИИ. Он представляет угрозу для человечества
Илон Маск (Elon Musk) вместе с сотней экспертов опубликовали открытое письмо, где призвали на полгода остановить все разработки по обучению ИИ, которые могут стать производительнее недавней GPT-4. Специалистов встревожил выход чат-бота от OpenAI.
Письмо появилось на сайте института Future of Life, который финансируется фондом Илона Маска. Его подписали многие известные деятели, включая сооснователя Apple Стива Возняка (Steve Wozniak), писателя Юваля Ноя Харари (Yuval Noah Harari), лауреата премии Тьюринга Йошуа Бенжио (Yoshua Bengio) и соучредителя Skype Яана Таллинна (Jaan Tallinn).
Авторы письма утверждают, что современные ИИ-системы могут нанести непоправимый вред человечеству. По их словам, сейчас необходимо сконцентрироваться на разработке общих протоколов безопасности, которые позволят контроллировать развитие ИИ.
Современные ИИ-системы научились конкурировать с людьми в решении общих задач, и мы должны спросить себя: должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, включая те, которые приносят нам удовлетворение? Должны ли мы развивать машинный разум, который в конечном итоге может превзойти нас числом, перехитрить и заменить нас? Стоит ли нам рисковать потерей контроля над нашей цивилизацией?
За такие решения не должны отвечать неизбранные лидеры технологий. Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми. В недавнем заявлении OpenAI касательно ИИ говорится, что «в будущем может настать момент, когда компаниям перед обучением новых систем может понадобиться независимая оценка и ограничение скорости роста вычислений». Мы согласны. Этот момент уже настал.
Подобных опасений придерживается и Европол. В понедельник полицейская служба предупредила, что мошенники могут использовать GPT-4 для фишинга, дезинформации и других преступлений. Совсем недавно мы писали, что чат-бот смог обмануть человека, чтобы тот решил за него «капчу».
- ИИ превратил Джилл Валентайн, Клэр Редфилд и Аду Вонг в горячих моделей
- ИИ круто апгрейднул героев культовой Baldur's Gate 2. Они стали похожи на реальных людей
- Нейросеть показала героев «Гарри Поттера» в образе школьных тусовщиков. Хагрид внезапно стал диджеем
-
ИИ превратил Джилл Валентайн, Клэр Редфилд и Аду Вонг в горячих моделей
-
Нейросеть показала героев «Гарри Поттера» в образе школьных тусовщиков. Хагрид внезапно стал диджеем
-
ИИ круто апгрейднул героев культовой Baldur's Gate 2. Они стали похожи на реальных людей
-
Илон Маск решил хайпануть и повторил популярный мем с папой римским в пуховике. Он тоже показал себя в эпатажном образе
-
Вышел трейлер обновления A Parting of the Waves для Warhammer: Vermintide 2
-
«Забудьте все, что вы знали о ремейке “Принца Персии”»: инсайдер поделился новыми деталями The Sands of Time Remake
-
Геймеры снова в ярости: в сети заявили, что Ubisoft «специально ухудшила» внешность главной героини Star Wars Outlaws
-
Trek to Yomi на максималках? Состоялся релиз The Devil Within: Satgat
-
Россиянка показала ядерный косплей по мотивам Fallout в честь выхода сериала
-
Лара Крофт больше не будет расхитительницей гробниц, поскольку это «колониализм». Пока только в настолке
-
Ждем? Для «Смуты» выпустят большое DLC к концу года
-
Новая механика в Valheim усложнит игру любителям строительства
-
Раскрыты новые подробности ПК-версии CarX Street — гонки с открытым миром в духе NFS
-
Broken Roads, новая RPG в духе Fallout, разочаровала игроков
-
Релиз Fallout: London отложен из-за некстген-обновления Fallout 4
-
Fallout 4: Far Harbor — самое прибыльное DLC в истории Bethesda
-
Для Lethal Company вышел крупный патч. Что нового
-
Ubisoft ответила на критику «эксклюзивного» Джаббы Хатта в Star Wars Outlaws
-
Вышло интервью Такера Карлсона с Павлом Дуровым
-
Ghost of Tsushima можно будет запустить на ПК с видеокартой 2015 года. Официальные системные требования