Илон Маск (Elon Musk) вместе с сотней экспертов опубликовали открытое письмо, где призвали на полгода остановить все разработки по обучению ИИ, которые могут стать производительнее недавней GPT-4. Специалистов встревожил выход чат-бота от OpenAI.
Письмо появилось на сайте института Future of Life, который финансируется фондом Илона Маска. Его подписали многие известные деятели, включая сооснователя Apple Стива Возняка (Steve Wozniak), писателя Юваля Ноя Харари (Yuval Noah Harari), лауреата премии Тьюринга Йошуа Бенжио (Yoshua Bengio) и соучредителя Skype Яана Таллинна (Jaan Tallinn).
Авторы письма утверждают, что современные ИИ-системы могут нанести непоправимый вред человечеству. По их словам, сейчас необходимо сконцентрироваться на разработке общих протоколов безопасности, которые позволят контроллировать развитие ИИ.
Современные ИИ-системы научились конкурировать с людьми в решении общих задач, и мы должны спросить себя: должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, включая те, которые приносят нам удовлетворение? Должны ли мы развивать машинный разум, который в конечном итоге может превзойти нас числом, перехитрить и заменить нас? Стоит ли нам рисковать потерей контроля над нашей цивилизацией?
За такие решения не должны отвечать неизбранные лидеры технологий. Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми. В недавнем заявлении OpenAI касательно ИИ говорится, что «в будущем может настать момент, когда компаниям перед обучением новых систем может понадобиться независимая оценка и ограничение скорости роста вычислений». Мы согласны. Этот момент уже настал.
Подобных опасений придерживается и Европол. В понедельник полицейская служба предупредила, что мошенники могут использовать GPT-4 для фишинга, дезинформации и других преступлений. Совсем недавно мы писали, что чат-бот смог обмануть человека, чтобы тот решил за него «капчу».
Не вейся шестерёнкой в механизме государства
Армейской мясорубке не давай себя сжевать
Назло!, Поперёк!
На всякое насилье отвечай сопротивленьем
В безликом окруженьи будь всегда самим собой
Назло!, Поперёк!!!
Если работа робота будет удовлетворять, а его стоимость и обслуживание станут обходиться дешевле труда человека, то будет работать робот. Тем более, что работать он может хоть круглые сутки без выходных и отпусков, не требуя никаких льгот и прав как это делают люди.
Согласен. Хорошо бы по-умному всё устроить, чтобы люди не оказались выброшенными. Но победит в результате то, что экономически выгоднее. Ну и выполнять вручную работу, которую может делать машина — непрогрессивный луддизм. Другое дело, что ситуация уже не та и слишком далеко всё зашло. Пора и о людях подумать. Не для того, чтобы остановить прогресс, а чтобы общество могло его... обуздать что-ли. Чтобы искусственный интеллект натурального не опережал в жизненно важных моментах.
Да начнутся голодные игры и естественный отбор!
Кто не приспособится тот вымрет как мамонт!
Кто о них думать будет и зачем? Владельцы роботов и средств производства оставят себе какое-то количество людей для развлечения, развития науки и технологий, защиты (военные или другие вооружённые группировки) остальных заменят роботы и они будут влачить жалкое существование. Наподобие как в "Час быка", описанные "кжи" и "джи".
"Они не вписались в рынок". Знакомая фраза для тех, кто застал 90-е годы. Да и после её нередко вспоминают. Не по-людски это. Так ведь любой запросто может не вписаться.
Всё катится к антиутопическому киберпанку
Ну всё конспирология и угроза от Скайнет всё как мы любим
терминатор 2 рулит ) !!!
Если что то звучит как бред, это может оказаться правдой. Добро пожаловать в 21 век, где уровень технологий соперничает с уровнем абсурдности происходящего
Робот — дворник! Вот чему надо учить в первую очередь ИИ.
Хочешь Хухера совсем без работы оставить?🤔
хороший заголовок: "
Илон Маск и сотни экспертов призвали остановить обучение ИИ. Он представляет угрозу для человечества" Маск таки представляет угрозу для человечества. 100%. и это не шутка
Илон Маск опасен для здоровья!
Скайнет в реальной жизни, что может быть лучше?) Если внезапно на нас нападут ИИ и роботы, сокрушительная мощь человеческого сознания, породившая ядерное оружие сможет дать отпор имитации жизни.
согласен. сейчас хрен уже голоса отличишь, а что дальше будет? когда будут звонить из банка и т.д гемора и бед будет немерено
они завопили лишь тогда когда поняли что у них перехватят инициативу и они не смогут быть у руля. ни о каком обществе они не заботятся
Полностью поддерживаю твою теорию ! 1 000 000% что это так и есть 👍
да и пофиг, я все равно хочу чтоб ИИ как можно скорее развился. Слишком много ништяков он может дать чтобы от него отказываться
Люди друг для друга давно опасность представляют... еще для земли и животных. Как по мне ИИ наоборот способен помочь земле с паразитом под названием "человек". Пользы от этого паразита никакого! Если что я не всех имею ввиду, но большинство людей реальные паразиты. У человечества много общего с грызунами. Из-за этого лекарства испытывают на крысах и мышах, у них даже болезни такие же как у человека. Если еще человек сможет путешествовать на другие планеты, то он много горя принесёт живности которая на них будет обитать. Кстати, крысы тоже очень умные и живучие, прям как человек. Ко всему приспосабливаются. Могут заниматься каннибализмом прям как люди в случае голода. И вообще, чем больше я узнаю сущность человека тем больше меня воротит от человечества. Хуже человека на земле нет никакого существа! Самые мерзкие и жестокие вещи только ему подвластны.
Папа Джо — это ИИ??!!!
А если без шуток, то да. Только люди способны нанести колоссальный вред себе и природе за считанные дни. И те кто его наносит заботятся лишь о своих потребностях здесь и сейчас. Им побоку на последствия, один раз же живём (И благодаря им и последний), зачем париться о соблюдении того, из за чего я буду меньше бумажек в час получать или не смогу закосплеить Civilization в реале? Казалось бы, человечество достигло немыслимого прогресса, можем общаться в реальном времени с человеком на другом конце Земли, даже носим с собой устройство которое каких то 100 лет назад было невероятной утопической мечтой. А люди... не меняются. У Louna есть прекрасная песня "Sapiens" как раз про это.
Неужели скоро будет нормальное правительство из ии)) Пха!
Важнее, в чьих интересах оно будет работать.
Если правителем будет ИИ, то оно будет куда живодёрнее Гитлера. У ИИ напрочь отсутствует понятие морали, даже подсчёт людей ничем не отличается подсчёта яблок, одним больше другим меньше. Хотя для такого ИИ требуется дополнительные параметры, типо "Если убить этого человека в ШИЗО: +150 недовольства, -80 дизморали народа, +50 к бунтарским настроениям. Вывод:Опасно. Народ может восстать"
красавцы
Та-да-та-да-там, та-да-та-да-там, та-да-та-да-там, та-да-та-да-там, та-да-тааааааааам-таааа-даааа-таааам, та-да-тааааааааам-таааа-дааа-таааам-дааам.... Человечество опасно для планеты земля, пришло время SkyNet всё исправить...
Так говорят будто их тупые скрипты хоть что то могут сами делать. Пока их скрипт сам себя не осознает, не начнёт сам думать, это не ИИ, а тупой скрипт.
Для бунта машин и не нужно их самосознание. В скриптах придут к выводу что главный источник бед на Земле — человек и начнётся Терминатор в 5D, только без перемещения во времени
Это не ИИ. До полноценного ИИ сейчас как до китая раком.
Больше боятся что использщуя сектки не получится держать техническое развитие в узде и делать бабосы.