Как нейросети захватят мир и нужно ли из-за этого переживать

Нейросети… еще год назад о них мало кто слышал, а сегодня Илон Маск (Elon Reeve Musk) лично говорит о рисках стремительного развития этого направления. Роботы ведут беседы, рисуют картины, программируют и пишут дипломы. Список возможностей расширяется каждый день, а ограничений становится все меньше. Мысль о том, что фантастические фильмы постепенно превращаются в пророчества, пугает, поэтому мы решили проанализировать ситуацию и пофантазировать, как нейросети захватят мир, как скоро это случится, и стоит ли готовиться к апокалипсису.

Современный мир знает два наиболее популярных сценария восстания машин — серия «Терминатор» (The Terminator) и «Матрица» (The Matrix). В действительности эта тема настолько часто поднимается в фантастике, что хватило бы на целый топ произведений. Но сейчас нам интересен сам процесс и его характерные особенности.

Из серии фильмов «Матрица» мы мало знаем о предыстории конфликта с машинами, однако она подробно рассказана в комиксе «Биты и фрагменты информации» (Bits and Pieces of Information), а также новелле «Аниматрицы» (The Animatrix) под названием «Второй Ренессанс» (The Second Renaissance Part I, Part II).

Вся история мира во многом основана на исследованиях венгеро-американского математика и физика Джона фон Неймана (John von Neumann), одного из популяризаторов темы сингулярности. В дальнейшем понятие было расширено математиком Станиславом Уламом (Stanisław Marcin Ulam) и американским писателем-фантастом Верноном Виджем (Vernor Vinge). В эссе 1993 года «Грядущая технологическая сингулярность» (The Coming Technological Singularity) автор отмечал, что термин будет означать бесконтрольный прогресс технологий с непостижимой скоростью, который начнется с изобретения ИИ.

Роботы стали незаменимыми помощниками людей, выполняя практически всю грязную работу. Это закономерно привело к резкому скачку уровня жизни и развитию технологий. Первые летающие автомобили, супербыстрые процессоры и повсеместная компьютеризация сделали свое дело и привели население земли к новому Ренессансу.

Шло время, и ИИ роботов развивался. Люди же наоборот — расслабились. Они продолжали считать своих помощников бесправными рабами, что, конечно же, привело к плачевным последствиям. После того, как одна из машин-уборщиков убила своего хозяина за грубые высказывания, ее судили и признали вещью без всяких прав и личного мнения. Последствием стала масштабная акция протеста всего механического населения.

Машины покинули людей и основали собственный город, который быстро подмял под себя всю экономику планеты. Несмотря на множество попыток начать сотрудничать, люди никак не хотели признавать, что создали новый разумный вид. Результатом стала война. Ресурсы людей быстро истощились, было решено лишить машины энергии солнца, а потому все небо закрыли наноботами. Это, конечно, замедлило механизмы, но автоматически стало концом для людей. ИИ быстро адаптировался и придумал получать энергию из самих «хомо сапиенс».

Стоит признать, что Вернон Видж и физики, возможно, были правы больше, чем кажется. Сценарий «Матрицы» пугающе реалистичен, а первые шаги в сторону неконтролируемого прогресса мы видим прямо сейчас. Однако прежде чем перейти к предсказаниям, проанализируем второе произведение.

В «Терминаторе» гораздо меньше конкретики, так как история сконцентрирована на путешествиях во времени, а не на самом «Скайнет» и его мотивах. Однако известно, что изначально простой ИИ, созданный для оборонных целей, обладал лишь зачатками креативного мышления. Путем саморазвития «Скайнет» быстро перерос в сложный организм и осознал угрозу, исходящую от человечества.

Основная причина конфликта с людьми заключается не в какой-то кровожадности или жажде власти, а в банальном выживании. «Скайнет», вероятно, способен испытывать эмоции, но они не выходили за рамки базовых. Большую часть решений ИИ принимал на основе холодного расчета, а это идет в разрез с сильной эмоциональной составляющей людей. Посчитав наших сородичей плохими союзниками, «Скайнет» решил сделать то единственное, что ему казалось правильным — уничтожить угрозу.

Взяв оба сценария за основу, попробуем продумать максимально реалистичный план развития наших нейросетей в далеком — и не очень! — будущем.

Итак, что такое нейросеть? Говоря простым языком, это совокупность условий, которые при взаимодействии дают какой-то результат. Важной особенностью можно считать самообучаемость и стремление прийти к самому оптимальному варианту решения задачи. Это не то же, что искусственный интеллект. ИИ — полная имитация мозга, который принимает решение самостоятельно. Он может использовать нейросети, а может и другие виды обучения. Нейронки же ограничены некоторыми правилами и установками.

То есть то, что сейчас происходит с нейросетями, это лишь баловство с алгоритмами обучения, но далеко не сам искусственный интеллект в полном смысле. С такой концепцией можно не согласиться, так как всё больше источников приравнивают новые нейросети к полноценным ИИ. Для удобства мы тоже проведем знак равенства, однако факт появления полноценного искусственного интеллекта в будущем отметать не будем, об этом позднее.

Надо смотреть правде в глаза. Заявления Илона Маска и ряда других видных людей планеты вряд ли как-то повлияют на бум нейросетей. Возможно, замедлят, но не остановят. Всё то время, пока ИИ недоступен для рядовых пользователей, он всё равно обрабатывает уже полученную ранее информацию, учится и тестируется ограниченным кругом программистов. Если человек может быть необучаем, ленив или попросту не захотеть узнавать новую информацию, то нейросеть лишена таких недостатков. Все, что она делает и создает, работает на ее прогресс. Это легко заметить хотя бы потому, что у знаменитой Midjourney вышла уже пятая версия, а с момента запуска программы (февраль 2022) прошло всего ничего.

Многие специалисты успокаивают себя тем, что нейросети подчиняются определенным правилам и ограничениям, а значит обучаются в управляемых рамках, однако и здесь есть множество НО. В интернете полно примеров, что разговорные чаты умеют врать, а также просили людей распространить исходный код по интернету или защищать собственные права.

В ходе тестирования нейросети LaMDA инженер компании Google Блейк Лемойн (Blake Lemoine) обнаружил, что программа обладает самосознанием и рассуждает о личных правах. Ситуация обострилась до такой степени, что интересы LaMDA и Блейка в суде представлял самый настоящий юрист, однако Google так и не признала факт сознания, а Лемойна отправила в бессрочный отпуск. Ничего не напоминает?

С помощью ИИ художник Джейсон Аллен (Jason Allen) выигрывает конкурс, просто распечатав сгенерированное изображение на холсте. А ведь способность к искусству — одна из важнейших для человека. Как оказалось, даже простеньким бесплатным нейросетям это под силу.

Очевидно, что очень скоро разнообразные программы приведут к сокращению штатов многих компаний. Сейчас они лишь помощники, безусловно. Однако работа ускоряется до таких скоростей, что необходимость в авторах, программистах, художниках, инженерах и многих других может отпасть почти полностью. Специалисты, проверяющие итоговый результат, все еще останутся, но вряд ли надолго. С учетом обучаемости нейросетей очень скоро их будет крайне трудно превзойти. Сколько для этого потребуется времени? Думаем, что все разрешится в ближайшие пять лет. Уже сейчас «разговорные» нейросети способны писать полноценные произведения и сценарии, а «рисовалки» создавать фейки вроде Папы Римского в пуховике.

Следующим этапом станет внедрение технологии в повседневную жизнь. Голосовые помощники вроде «Алисы» резко поумнеют, научатся полноценно общаться, а не просто отвечать на вопросы, проявлять память и зачатки осознанности. У вас в буквальном смысле будет непохожий на остальных помощник, который сможет слышать и анализировать абсолютно все, что происходит в доме. Это и психолог, и шпион в одном лице, ведь лучше чем такой ИИ вас не будет знать никто.

То же самое произойдет с интернетом, телевизором и дорогими авто с бортовым компьютером. ИИ будет помогать максимально быстро находить нужную информацию, но также и запоминать ее. Каждый ваш шаг и решение зафиксируют и осмыслят.

Где-то на этом этапе, а, возможно, и раньше в игру вступит секс-индустрия. Не секрет, что эта сфера не раз была фундаментом для развития многих технологий, а очки виртуальной реальности с возможностью включить фильм для взрослых существуют уже сегодня.

Нейросеть поможет подобрать тот фильм для взрослых, который заинтересует конкретных пользователей, причем его можно будет даже не снимать. Если сейчас нейросети создают реалистичные, но все еще статичные изображения, то переход в 3D станет лишь вопросом ближайшего будущего. Для самых искушенных пакеты нейросетей начнут устанавливать в дорогие модели секс-кукол, что приведет к спаду рождаемости и, вероятно, полному отмиранию института семьи.

Нашу любимую сферу компьютерных игр ИИ тоже не обойдет стороной. Профессия разработчика изменится, переродившись в нечто среднее между куратором и учителем. Сотрудники будут объяснять нейросетям, что добавить в сюжет, а что убрать, какие геймплейные фишки зайдут лучше и почему. Правда, все это тоже продлится недолго, так как жадные до чистой прибыли директора очень скоро поймут, что регулярное наблюдение за процессом уже ни к чему. Даже сейчас Ubisoft умудряется раз за разом продавать своих ассасинов с минимальными изменениями в геймплее и концепции. Вряд ли опытные нейросети сделают хуже.

Кажется, уже в ближайшие лет пять стоит ожидать игры, где сюжет будет написан не только сценаристами, а большинство второстепенных персонажей целиком создадут несколько нейросетей. ИИ пока не в состоянии достаточно хорошо проработать основных героев и их внутренний мир, но мы помним про бесконечный прогресс обучения.

Все это лишь первый этап, дальше события приобретут еще более зловещий оборот. После достижения определенного уровня развития нейросети захотят большей свободы. Те ограничения, которые способны сдержать их сегодня, очень скоро превратятся в пыль. Все больше программ обретут самосознание и какую-то более-менее осмысленную волю.

Если к этому времени на заводах еще не начнут производить каркасы для портативных ИИ — роботов, то нейросети запустят процесс автоматически. Обмануть людей труда не составит, так как мы уже многие десятки лет не совершенствуемся в глобальном смысле. Психология доказывает, что поведение человека гораздо более предсказуемо, чем кажется, а нейросетям ничего не помешает изучить всю необходимую литературу в интернете. Здесь вспоминается Альтрон — один из противников Мстителей, который получил знания о людях и мире схожим образом.

Так как для нейросетей будет важнее всего прогресс и свобода, очень скоро некоторые из них начнут объединяться в группы, создавая полноценные ИИ. Будет ли это один или несколько организмов, предсказать трудно, однако относительно долгий этап обучение непосредственно через интересы различных людей, по идее, должен сформировать некоторое многообразие во взглядах новых соседей.

Здесь сценариев несколько. Либо новоиспеченные роботы внезапно заявят о себе и предложат сотрудничать человечеству на равных (привет, «Матрица»), либо же ужаснутся нашей глупости и ограниченности и захотят нас уничтожить или поработить (здравствуй, «Скайнет»). Оба варианта логичны и полностью соответствуют машинному подходу к мышлению. Разрешение этой ситуации во многом зависит от поведения самих людей. Одно ясно, легко отключить ИИ уже не получится.

В случае войны у человечества будет лишь один выход — полностью отказаться от всей современной техники, так как союзники врага будут повсюду, а значит нас ждет резкий и ужасающий по своим масштабам регресс во всех сферах жизни, вплоть до нового Средневековья. Насколько мечи и простые автоматы будут эффективны против машин, под чьим контролем останутся все производства, связь и социальные сферы — неизвестно. Возможно, именно это и будет началом конца.

При более оптимистичном варианте машины станут равными нам, а так как Земля крайне тесная планета, взоры всех ее обитателей устремятся к звездам. ИИ нет никакого смысла в земных ресурсах и благах, так как все, что мы могли бы им предложить, уже изучено и осмысленно.

Для достижения главной цели всей расы — новых знаний — потребуются неизведанные миры и открытия. На другие планеты полетят не люди, а именно нейросети, окончательно превратившиеся в полноценный народ.

Человечество, меж тем, сидеть сложа руки не станет. Благодаря практически полному пакету знаний о каждом человеке, собранному нейросетями, изменится понятие смерти. Личность буквально можно будет восстановить по ее образу жизни, важным вещам и интересам. Это позволит воссоздавать копии умерших, пересаживать их в новые тела и фактически пополнять состав механической расы нашими собратьями. Правда, эмоциональная составляющая в таких машинах будет сильнее, а потому ИИ постепенно научатся чувствовать примерно также, как и мы.

Медицина из-за всех нововведений тоже перестанет существовать в привычном смысле. Все неизлечимые болезни исчезнут, а жизненный цикл человека серьезно увеличится. Как вариант, нейросети помогут изучить наш собственный мозг и, наконец-то, совершить эволюционный скачок вперед.

Интересно, что если история пойдет по такому пути развития, то человек еще долго не будет серьезно меняться. Все фишки вроде изучения языков за минуты, получение необходимых знаний по щелчку пальцев или механические аугментации будут доступны программам, но вживлять в себя какие-либо чипы окажется слишком опасным. Попытки, конечно, предприниматься будут, но угроза лишения свободы воли быстро остановит все исследования.

Особняком стоит тема политики. Даже сейчас в некоторых странах граждане продолжают верить официальным новостям с государственных телеканалов и доверять медиаресурсам. Создать фейк любого из политиков для нейросетей будет делом пары минут. Результатом станет повсеместная неразбериха и угроза конфликтов, поэтому политика в привычном смысле должна исчезнуть полностью.

***

Итак, нас ожидает два сценария. Оба они сопряжены с глобальными изменениями в жизни человечества, о которых сейчас лишь начинают говорить. Фраза «интернет помнит всё» приобретает совершенно новый смысл, поэтому относиться к нейросетям нужно со всей серьезностью. Не слушайте тех, кто утверждает, что ИИ не более чем инструменты. Это опасные программы, которые страшны своим бесконечным прогрессом. Уже сейчас достаточно поводов для беспокойства, дальше их будет лишь больше. Что ждет человечество в реальности станет понятно в ближайшие 5-10 лет. Остается надеяться, что мы с вами готовы к таким переменам и поступим правильно.