Может ли искусственный интеллект уничтожить человечество? Рассматриваем три стадии ИИ

Некоторые эксперты, включая руководителей OpenAI и Google Deepmind, предупреждают о возможном вымирании человечества из-за искусственного интеллекта. Однако, каким образом машины могут превзойти людей? С момента своего запуска в ноябре 2022 года ChatGPT, чат-бот, использующий искусственный интеллект для ответов на вопросы или создания текста или кода по требованию пользователей, стал самым быстро растущим интернет-приложением в истории. За всего два месяца он привлек более 100 миллионов активных пользователей. По данным компании по мониторингу технологий Sensor Town, чтобы достичь такого результата, Instagramу понадобилось два с половиной года. Огромная популярность ChatGPT, разработанного компанией OpenAI при поддержке Microsoft, вызвала ожесточенные дебаты о влиянии искусственного интеллекта на будущее человечества. Множество экспертов поддерживают заявление, опубликованное на веб-странице Центра безопасности искусственного интеллекта, в котором говорится, что "снижение риска вымирания человечества от искусственного интеллекта должно быть мировым приоритетом наряду с другими глобальными рисками, такими как пандемии и ядерная война".
Тем не менее, другие считают, что эти опасения преувеличены.


Современные инструменты искусственного интеллекта, такие как ChatGPT, DALL-E, Bard и AlphaCode, способны создавать тексты и изображения (от эссе, стихов и шуток до компьютерного кода), которые могут быть неразличимы от работ, созданных людьми. Они используются студентами для выполнения домашних заданий, а политиками для написания речей. Например, представитель Демократической партии Джейк Окинклос использовал их в Конгрессе США. Технологический гигант IBM заявил, что перестанет нанимать людей на 7800 вакансий, поскольку на них может работать искусственный интеллект.
Если все эти изменения вас удивляют, будьте готовы, что это только начало. Мы находимся только на первой стадии развития искусственного интеллекта, а перед нами еще две стадии, которые, по мнению некоторых ученых, могут представлять угрозу для самого выживания человечества. Итак, о каких три стадиях идет речь?

1. Искусственный узкий интеллект (ШВІ)

Искусственный узкий интеллект (ШУИ), также известный как узкий ИИ, специализируется на выполнении конкретной задачи и осуществляет повторяющуюся работу в заданном рамках функциональности. Обычно он изучает большой объем данных в определенной области, на которую он программирован. Примером могут быть шахматные программы, способные победить чемпиона мира, но не способные выполнять другие задачи. В смартфонах существует множество приложений, использующих эту технологию, начиная от GPS-карт и заканчивая музыкальными и видеопрограммами, которые предлагают персонализированные рекомендации, учитывая ваши предпочтения. Даже более сложные системы, такие как автономные автомобили и ChatGPT, являются формами узкого искусственного интеллекта. Они не способны действовать вне заданного набора задач и не могут самостоятельно принимать решения. Тем не менее, некоторые эксперты считают, что системы, основанные на автоматическом обучении, такие как ChatGPT или AutoGPT, могут перейти к следующему этапу развития.

2. Искусственный общий интеллект (СИИ)

Искусственный общий интеллект (СОИ) будет достигнут, когда машина сможет успешно выполнять любую интеллектуальную задачу, аналогичную задачам, выполняемым человеком. Этот уровень также известен как "сильный искусственный интеллект".

Шестимесячная пауза

В марте 2023 года более 1000 технологических экспертов призвали лаборатории искусственного интеллекта приостановить обучение более мощных систем искусственного интеллекта, превосходящих GPT-4, на период не менее шести месяцев. Они выразили опасения относительно систем искусственного интеллекта, которые обладают человекоподобным и конкурентоспособным интеллектом, и указали на серьезные риски для общества и человечества. В письме, опубликованном Future of Life Institute, в котором приняли участие такие ведущие технологические фигуры, как соучредитель Apple Стив Возняк и владелец Tesla и SpaceX Илон Маск, эксперты подчеркнули, что в случае нежелания компаний быстро остановить свои проекты, правительства должны вмешаться и ввести мораторий, чтобы разработать и внедрить меры безопасности.

"Настолько же глуп, насколько и умен"

Письмо было подписано Кариссой Велиз из Института этики искусственного интеллекта Оксфордского университета. Она считает, что последнее заявление Центра безопасности искусственного интеллекта, предупреждающее о вымирании человечества, идет слишком далеко, поэтому она решила не подписывать его.Велиз говорит, что ее беспокоит то, что искусственный интеллект может быстро создавать дезинформацию. Ее больше волнует тот факт, что приближаются выборы в США, а платформы, такие как Twitter, сокращают команды по этике и безопасности искусственного интеллекта.Правительство США также признает потенциальные угрозы, связанные с искусственным интеллектом, и заявляет о необходимости смягчения рисков, связанных с его использованием.Генеральный директор OpenAI Сэм Альтман был вызван на слушания в Конгрессе США, где были обсуждены вопросы, связанные с ChatGPT. Альтман подчеркнул важность регулирования отрасли искусственного интеллекта правительством, учитывая его все большую мощность.Отсутствие коллегиального органа экспертов, аналогичного Межправительственной группе экспертов по изменению климата, является одной из больших проблем, связанных с искусственным интеллектом, пояснил исследователь государственной политики Карлос Игнасио Гутьеррес из Института будущей жизни. Это приводит нас к третьей и последней стадии искусственного интеллекта.

3. Искусственный суперинтеллект (ШС)

Согласно этой теории, когда мы достигнем второй стадии искусственного общего интеллекта (СИИ), мы перейдем к завершающей стадии - "искусственному суперинтеллекту" (ШС). Это произойдет, когда искусственный интеллект превзойдет уровень человеческого интеллекта.Философ из Оксфордского университета и эксперт по искусственному интеллекту Ник Бостром определяет суперинтеллект как интеллект, который "значительно превосходит лучший человеческий мозг в практически всех областях, включая научное творчество, общую мудрость и социальные навыки".Карлос Игнасио Гутьеррес объясняет, что люди, становящиеся инженерами, медсестрами или юристами, должны долго учиться. Проблема с искусственным суперинтеллектом заключается в том, что он может постоянно совершенствоваться, даже когда мы этого не можем.

Научная фантастика

Эта концепция напоминает сюжет фильма "Терминатор", где машины развязывают ядерную войну для уничтожения человечества. Арвинд Нараянан, компьютерный ученый из Принстонского университета, ранее заявил BBC, что катастрофические сценарии, подобные научной фантастике, нереалистичны: "Существующий искусственный интеллект далек от того, чтобы реализовать такие угрозы. Это отвлекает от краткосрочного вреда, который может причинить искусственный интеллект". Хотя ведутся много дебатов о том, может ли машина действительно обладать таким широким интеллектом, как человек, особенно в отношении эмоционального интеллекта, именно это беспокоит тех, кто считает, что мы приближаемся к достижению искусственного суперинтеллекта. Недавно так называемый "крестный отец искусственного интеллекта" Джеффри Гинтон, пионер в области машинного обучения, предупредил, что мы можем быть на пороге этого события. "На данный момент машины не умнее нас, по моим наблюдениям. Но я думаю, что вскоре они могут стать такими", - сказал 75-летний Гинтон, только что покинувший Google. Он также выразил сожаление о своей прошлой работе, опасаясь, что "плохие актеры" будут использовать искусственный интеллект для "плохих дел". Гинтон привел пример "кошмарного сценария": "Представьте, что кто-то, вроде Путина, решит дать машинам возможность устанавливать свои собственные промежуточные цели". В конечном итоге, машины могут установить промежуточные цели, такие как "Мне нужно получить больше власти", что создаст "существенные риски", предупреждает он. В то же время Гинтон отмечает, что "в краткосрочной перспективе", по его мнению, искусственный интеллект принесет гораздо больше пользы, чем рисков. "Поэтому я не считаю, что мы должны прекращать его разработку", - добавил он.

Вымирание или бессмертие

Физик Стивен Хокинг предупреждал будущие поколения о серьезной угрозе. В интервью BBC в 2014 году, за четыре года до его смерти, он сказал: "Развитие полноценного искусственного интеллекта может привести к концу человеческой расы". По его мнению, машина с таким уровнем интеллекта способна действовать самостоятельно и изменять свой собственный дизайн.

Наноботы и бессмертие

Рэй Курцвейл, футуролог-изобретатель и исследователь искусственного интеллекта в Google, является ярым сторонником использования суперинтеллектуальных ИИ для преодоления биологических ограничений. В 2015 году он высказал предположение, что к 2030 году люди смогут достичь бессмертия благодаря использованию наноботов - крайне маленьких роботов, способных исправлять повреждения и лечить болезни внутри нашего организма.

Управление ИИ

Гутьеррес соглашается, что важным аспектом является разработка системы управления и контроля над искусственным интеллектом.
Он рисует картину будущего, где определенная сущность обладает столь обширной информацией о каждом человеке на планете, их привычках (получаемой, например, через интернет-поисковики), что может манипулировать нами такими способами, о которых мы и не подозреваем.
По его словам, самым плохим сценарием не является война между людьми и искусственным интеллектом. Худшим сценарием является то, что мы не осознаем того факта, что нашими действиями манипулирует существо, которое значительно умнее нас, и мы небудем осознавать этого факта