Чи може штучний інтелект знищити людство? Розглядаємо три стадії ШІ

Деякі експерти, включаючи керівників OpenAI та Google Deepmind, попереджають про можливе вимирання людства через штучний інтелект. Проте, як машини можуть перевершити людей? З моменту свого запуску в листопаді 2022 року ChatGPT, чат-бот, що використовує штучний інтелект для відповідей на запитання або створення тексту або коду на вимогу користувачів, став інтернет-додатком в історії, що швидко зростає. За два місяці він залучив понад 100 мільйонів активних користувачів. За даними компанії з моніторингу технологій Sensor Town, щоб досягти такого результату, Instagramу знадобилося два з половиною роки. Величезна популярність ChatGPT, розробленого компанією OpenAI за підтримки Microsoft, викликала запеклі дебати щодо впливу штучного інтелекту на майбутнє людства. Багато експертів підтримують заяву, опубліковану на веб-сторінці Центру безпеки штучного інтелекту, в якій йдеться про те, що "зниження ризику вимирання людства від штучного інтелекту має бути світовим пріоритетом поряд з іншими глобальними ризиками, такими як пандемії та ядерна війна".
Проте інші вважають, що ці побоювання перебільшені.


Сучасні інструменти штучного інтелекту, такі як ChatGPT, DALL-E, Bard та AlphaCode, здатні створювати тексти та зображення (від есе, віршів та жартів до комп'ютерного коду), які можуть бути невідмінними від робіт, створених людьми. Вони використовуються студентами для виконання домашніх завдань, а політиками для написання промов. Наприклад, представник Демократичної партії Джейк Окінклос використав їх у Конгресі США. Технологічний гігант IBM заявив, що перестане наймати людей на 7800 вакансій, оскільки може працювати штучний інтелект.
Якщо всі ці зміни вас дивують, будьте готові, що це лише початок. Ми знаходимося лише на першій стадії розвитку штучного інтелекту, а перед нами ще дві стадії, які, на думку деяких учених, можуть становити загрозу для самого виживання людства. Отже, про які три стадії йдеться?

1. Штучний вузький інтелект (ШВІ)

Штучний вузький інтелект (ШУІ), також відомий як вузький ІІ, спеціалізується на виконанні конкретного завдання і здійснює роботу, що повторюється, в заданому рамках функціональності. Зазвичай він вивчає великий обсяг даних у певній галузі, якій він програмований. Прикладом можуть бути шахові програми, здатні перемогти чемпіона світу, але не здатні виконувати інші завдання. У смартфонах існує безліч додатків, що використовують цю технологію, починаючи від GPS-карт і закінчуючи музичними та відеопрограмами, які пропонують персоналізовані рекомендації з огляду на ваші уподобання. Навіть складніші системи, такі як автономні автомобілі та ChatGPT, є формами вузького штучного інтелекту. Вони не здатні діяти поза заданим набором завдань і не можуть самостійно приймати рішення. Тим не менш, деякі експерти вважають, що системи, засновані на автоматичному навчанні, такі як ChatGPT або AutoGPT, можуть перейти до наступного етапу розвитку.

2. Штучний загальний інтелект (СІІ)

Штучний загальний інтелект (СОІ) буде досягнутий, коли машина зможе успішно виконувати будь-яке інтелектуальне завдання, аналогічне завданням, що виконується людиною. Цей рівень також відомий як "сильний штучний інтелект".

Шестимісячна пауза

У березні 2023 року понад 1000 технологічних експертів закликали лабораторії штучного інтелекту призупинити навчання потужніших систем штучного інтелекту, що перевершують GPT-4, на період не менше шести місяців. Вони висловили побоювання щодо систем штучного інтелекту, які мають людиноподібний і конкурентоспроможний інтелект, і вказали на серйозні ризики для суспільства і людства. У листі, опублікованому Future of Life Institute, в якому взяли участь такі провідні технологічні фігури, як співзасновник Apple Стів Возняк та власник Tesla та SpaceX Ілон Маск, експерти підкреслили, що у разі небажання компаній швидко зупинити свої проекти, уряди мають втрутитися та ввести мораторій. , щоб розробити та впровадити заходи безпеки.

"Настільки ж дурний, наскільки і розумний"

Лист був підписаний Каріссою Веліз із Інституту етики штучного інтелекту Оксфордського університету. Вона вважає, що остання заява Центру безпеки штучного інтелекту, що попереджає про вимирання людства, йде надто далеко, тому вона вирішила не підписувати його. Веліз каже, що її непокоїть те, що штучний інтелект може швидко створювати дезінформацію. Її більше хвилює той факт, що наближаються вибори в США, а платформи, такі як Twitter, скорочують команди з етики та безпеки штучного інтелекту. використанням.Генеральний директор OpenAI Сем Альтман був викликаний на слухання в Конгресі США, де були обговорені питання, пов'язані з ChatGPT. Альтман наголосив на важливості регулювання галузі штучного інтелекту урядом, враховуючи його дедалі більшу потужність. Це призводить до третьої та останньої стадії штучного інтелекту.

3. Штучний суперінтелект (ШС)

Згідно з цією теорією, коли ми досягнемо другої стадії штучного загального інтелекту (СІІ), ми перейдемо до завершальної стадії - "штучного суперінтелекту" (ШС). Це станеться, коли штучний інтелект перевершить рівень людського інтелекту. Філософ з Оксфордського університету та експерт зі штучного інтелекту Нік Бостром визначає суперінтелект як інтелект, який "значно перевершує кращий людський мозок у практично всіх областях, включаючи наукову творчість, загальну мудрість". Карлос Ігнасіо Гутьєррес пояснює, що люди, які стають інженерами, медсестрами чи юристами, мають довго навчатися. Проблема зі штучним суперінтелектом полягає в тому, що він може постійно вдосконалюватись, навіть коли ми цього не можемо.

Наукова фантастика

Ця концепція нагадує сюжет фільму "Термінатор", де машини розв'язують ядерну війну для знищення людства. Арвінд Нараянан, комп'ютерний вчений з Прінстонського університету, раніше заявив ВВС, що катастрофічні сценарії, подібні до наукової фантастики, нереалістичні: "Існуючий штучний інтелект далекий від того, щоб реалізувати такі загрози. Це відволікає від короткострокової шкоди, який може завдати штучний інтелект". Хоча ведеться багато дебатів про те, чи може машина справді мати такий широкий інтелект, як людина, особливо щодо емоційного інтелекту, саме це турбує тих, хто вважає, що ми наближаємося до досягнення штучного суперінтелекту. Нещодавно так званий "хрещений батько штучного інтелекту" Джеффрі Гінтон, піонер у галузі машинного навчання, попередив, що ми можемо бути на порозі цієї події. "На даний момент машини не розумніші за нас, за моїми спостереженнями. Але я думаю, що незабаром вони можуть стати такими", - сказав 75-річний Гінтон, який щойно покинув Google. Він також висловив жаль щодо своєї минулої роботи, побоюючись, що "погані актори" будуть використовувати штучний інтелект для "поганих справ". Гінтон навів приклад "кошмарного сценарію": "Уявіть, що хтось, як Путін, вирішить дати машинам можливість встановлювати свої власні проміжні цілі". Зрештою, машини можуть встановити проміжні цілі, такі як "Мені потрібно отримати більше влади", що створить "істотні ризики", попереджає він. У той же час Гінтон зазначає, що "у короткостроковій перспективі", на його думку, штучний інтелект принесе набагато більше користі, ніж ризиків. "Тому я не вважаю, що ми маємо припиняти його розробку", - додав він.

Вимирання або безсмертя

Фізик Стівен Хокінг попереджав майбутні покоління про серйозну загрозу. В інтерв'ю ВВС у 2014 році, за чотири роки до його смерті, він сказав: "Розвиток повноцінного штучного інтелекту може призвести до кінця людської раси". На його думку, машина з таким рівнем інтелекту здатна діяти самостійно та змінювати свій власний дизайн.

Наноботи та безсмертя

Рей Курцвейл, футуролог-винахідник та дослідник штучного інтелекту в Google, є затятим прихильником використання суперінтелектуальних ШТ для подолання біологічних обмежень. У 2015 році він висловив припущення, що до 2030 року люди зможуть досягти безсмертя завдяки використанню наноботів - вкрай маленьких роботів, здатних виправляти ушкодження та лікувати хвороби всередині нашого організму.

Управління ШТ

Гутьєррес погоджується, що важливим аспектом є розробка системи управління та контролю за штучним інтелектом.
Він малює картину майбутнього, де певна сутність має таку велику інформацію про кожну людину на планеті, їхні звички (отримувані, наприклад, через інтернет пошук), що може маніпулювати нами такими способами, про які ми й не підозрюємо.
За його словами, найгіршим сценарієм не є війна між людьми та штучним інтелектом. Найгіршим сценарієм є те, що ми не усвідомлюємо того факту, що нашими діями маніпулює істота, яка значно розумніша за нас, і ми не усвідомлюватимемо цього факту.