Ким стане людина в епоху ШІ? Генрі Кіссинджер

2 місяців тому нараз 40

Роздуми – це основний засіб пізнання світу людиною. Що зміниться, якщо думати почнуть машини?

Один із провідних інтелектуалів сучасності, колишній Держсекретар США Генрі Кіссинджер закликає розглянути не лише практичні і правові аспекти існування штучного інтелекту, а й філософські.

У статті для газети Wall Street Journal, яку він написав спільно з колишнім гендиректором Google Еріком Шмідтом і деканом Коледжу обчислювальних технологій при MIT Деніелом Гаттенлогером, він ставить питання, як ШІ впливає на культуру, людську природу й історію. Корреспондент.net наводить переклад статті.

Проблема бути людиною в епоху штучного інтелекту

Управління з питань науково-технічної політики при президенті США закликає до розробки "біля про права", який дозволив би захистити американців в умовах "світу, заснованого на технологіях штучного інтелекту".

Хвилювання через проникнення ШІ в життя людей є цілком обґрунтованими, про них відомо широкому загалу: багато хто боїться, що ШІ порушуватиме межі приватного життя та скомпрометує прозорість процесів, а також що упереджені вступні дані даватимуть упереджені кінцеві результати, зокрема в таких важливих для особистого і громадського процвітання сферах, як медицина, охорона правопорядку, прийом на роботу і видача кредитів.

Втім, розвиток ШІ призведе до ще однієї фундаментальної зміни: він кине виклик головуванню людського мислення.

Протягом усієї історії люди прагнули зрозуміти навколишній світ і свою роль у ньому. Починаючи з епохи Просвітництва ми вважали мислення – здатність досліджувати, розуміти і пояснювати – нашим основним засобом пізнання світу. Саме через пізнання світу люди робили свій внесок у його розвиток.

Останні 300 років, тобто в епоху, яку історики називають "століттям розуму", ми поводилися відповідно: ми вивчали, експериментували, винаходили й будували.

Тепер же ШІ – продукт людської винахідливості – поступово підточує верховенство людського мислення. Він досліджує та починає розбиратися в різних аспектах існування світу набагато швидше за нас. Він робить це інакше, ніж ми, і в деяких випадках у такий спосіб, що не є доступним для нашого розуміння.

У 2017 році компанія Google DeepMind створила програму під назвою AlphaZero, яка навчилася вигравати в шахи, освоївши цю гру без участі людини і виробивши не зовсім людську стратегію.

Коли гросмейстер Гаррі Каспаров побачив, як вона грає, він відзначив, що AlphaZero потрясла концепцію шахів "до самої основи". Програма не грала швидше чи ефективніше, але вона начебто повністю переосмислила шахи.

У 2020 році з'явився новий антибіотик під назвою халіцин. Його відкрили вчені Массачусетського технологічного інституту (MIT), які доручили ШІ провести розрахунки, що виходять за рамки можливостей людського мозку, змоделювати мільйони варіантів і вивчити методи знищення бактерій, які раніше не досліджувалися та раніше ніколи не пояснювалися.

Після такого відкриття вчені відзначили, що без допомоги ШІ на відкриття халіцину за допомогою традиційних експериментальних методів довелося б витратити "надто багато грошей" - іншими словами, його відкриття було б неможливим.

Мовна програмна модель GPT-3, якою керує компанія OpenAI і яка навчається шляхом обробки текстів з Інтернету, здатна створювати оригінальний текст. По суті, це літературний твір, що відповідає запропонованому Аланом Тьюрінгом стандарту "розумної" поведінки, яку неможливо відрізнити від поведінки людини.

Технології ШІ є надзвичайно багатообіцяючими: переклади з різних мов, діагностика захворювань, боротьба зі зміною клімату - або як мінімум досконаліше моделювання процесу зміни клімату.

Але, як показали успіхи програми AlphaZero в шахах, винахід халіцину і твори GPT-3, використання ШІ для досягнення визначеної мети може спричинити непередбачені наслідки, як-от відкриття раніше невідомих, але потенційно істотних аспектів реальності.

Це ставить людей перед необхідністю визначити - чи, мабуть, переосмислити - нашу роль у світі. Протягом 300 років, тобто всього "століття розуму", люди керувалися принципом "я мислю - значить я існую". Але якщо ШІ теж "мислить", то хто тоді ми?

Якщо ШІ напише найкращий сценарій року, чи потрібно давати йому Оскар? Якщо ШІ зможе змоделювати чи провести найважливіші дипломатичні переговори року, чи потрібно присудити йому Нобелівську премію миру? Чи її треба буде присудити особам, які створили алгоритм такого штучного інтелекту? Чи можуть машини мати "творчий" потенціал? Чи потрібно створювати нові слова для опису їхніх процесів?

Якщо дитина, яка користується підтримкою ШІ-помічника, почне вважати її "другом", що відбудеться в стосунках цієї дитини з однолітками? І що буде з її соціальним і емоційним розвитком?

Якщо ШІ здатний дбати про стареньку в будинку для людей похилого віку - нагадувати їй про прийом ліків, повідомляти медперсоналу, якщо вона впала, і складати їй компанію в інший спосіб, - чи зможуть члени сім'ї відвідувати її рідше? Та й чи взагалі потрібно буде відвідувати її? Якщо вона більшу частину часу спілкуватиметься з машиною, а не з людьми, яким буде її емоційний стан наприкінці життя?

Якщо в розпал війни в умовах неясності бойової обстановки ШІ рекомендує вжити заходів, які можуть спричинити шкоду і навіть жертви серед мирного населення, чи повинен командир прислухатися до нього?

Ці питання виникають дедалі частіше зараз, коли глобальні платформи, такі як Google, Twitter і Facebook, використовують ШІ, щоб накопичувати й аналізувати щораз більше інформації про своїх користувачів, та й не лише про них.

Потім ШІ приймає рішення про те, що є важливим, і дедалі частіше - що є істинним. Дійсно, головним звинуваченням викривальниці Френсіс Гауґен на адресу Facebook стало те, що керівництву компанії добре відомо, що алгоритми накопичення та фільтрації даних посилюють вплив дезінформації та посилюють психічні недуги в користувачів.

Щоб відповісти на ці питання, необхідно діяти одразу в кількох напрямах.

Потрібно розглянути не тільки практичні і правові аспекти існування ШІ, а й філософські: якщо ШІ сприймає такі аспекти реальності, які люди сприйняти не в змозі, як це може вплинути на сприйняття, пізнавальні здібності і взаємодію людей? Чи може ШІ потоваришувати з людьми? Яким буде вплив ШІ на культуру, людську природу й історію?

Крім того необхідно розширити розгляд питання про вплив ШІ на життя людини, вийти за рамки розробників і регуляторів і замислитися над такими сферами, як медицина, охорона здоров'я, довкілля, сільське господарство, бізнес, психологія, філософія, історія тощо.

Мета цих зусиль має полягати в тому, щоб уникнути надмірно різких реакцій. Нам не потрібне повне підпорядкування ШІ, але, з іншого боку, нам також непотрібні жорсткі обмеження. Нам потрібно віднайти золоту середину, тобто способи прищепити ШІ людські цінності, такі як гідність і свобода волі, які так цінує людина.

У Сполучених Штатах необхідно створити комісію під керівництвом уряду, до складу якої мають увійти експерти й мислителі з різних сфер. Розвиток ШІ є неминучим, але ми можемо вплинути на те, яким він буде насамкінець.