Американський винахідник і футуролог Рей Курцвейл, який обіймає посаду технічного директора з машинного навчання та обробки природної мови компанії Google, поспілкувався з головним редактором WIRED Ніколасом Томпсоном у Раді з міжнародних відносин. Ми наводимо адаптивний переклад найцікавіших моментів цієї розмови.
Поясніть закон пришвидшення віддачі, який є однією з фундаментальних ідей вашої роботи.
Під час підготовки проекту «Геном людини» 1% геному збирався протягом семи років. Критики стверджували, що це не спрацює – проект триватиме 700 років. Я тоді відреагував так: «Ого, ми зібрали 1%? Ми майже закінчили». Тому що 1% – це лише 7 подвоєнь від 100%. Щороку показник подвоювався, і проект закінчили через сім років. Перший геном коштував $1 млрд, а тепер – до $1 тис.
Я згадав лише один із наслідків закону пришвидшення віддачі, оскільки у нього багато ефектів пульсації і він дійсно стоїть за цифровою революцією, яку ми спостерігаємо: дефляція 50% в інформаційних технологіях. Сьогодні я можу отримати ті самі обчислення, зв’язки і дані мозку, що й рік тому, за половину вартості. Ось чому ви можете купити iPhone або Android-телефон, удвічі кращий, ніж два роки тому, але за половину ціни. Ви додаєте деякі з поліпшених цінових показників у ціну, а деякі з них – у продуктивність.
На початку 2020-х ми зможемо друкувати одяг за допомогою 3D-принтерів. Не сьогодні, адже ми перебуваємо у фазі хайпу навколо 3D-друку. Незабаром з’явиться дуже багато цікавих проектів з відкритим кодом, які можна завантажити безкоштовно. У нас буде індустрія моди, так само як музика, кіно і книжкова індустрія, які співіснують з вільними пропрієтарними продуктами з відкритим кодом. Ми зможемо створювати дешеву їжу, використовуючи гідропоніку, штучно клонувати м’язову тканину для м’яса. Нещодавно в Азії зібрали триповерхову офісну будівлю у стилі Lego з модулів, надрукованих на 3D-принтері. Таким буде будівництво у 2020-х.
Поговорімо про інтелект, наприклад, про телефон у моїй кишені. Він кращий, ніж я, в математиці. Він кращий, ніж я, у багатьох речах. Коли він буде кращим, ніж я, в розмові? Коли у вас буде брати інтерв’ю телефон, а не я?
Моя команда в Google вже створює смарт-відповіді. Ми пишемо мільйони листів, але технологія повинна розуміти сенс електронної пошти, на яку відповідає, хоча запропоновані формулювання короткі. Але ваше запитання еквівалентне тесту Тюрінга. Я прихильник того, що тест Тюрінга є дійсним тестом всього спектра людського інтелекту. Вам потрібна повна гнучкість людського інтелекту, щоб пройти тест. Ви не зможете скористатися простими хитрощами обробки природної мови. Якщо людина не зможе побачити різницю, можна вважати штучний інтелект людським. Це було моїм ключовим прогнозом. У 1989 році в книзі «Ера інтелектуальних машин» я говорив, що це станеться на початку 2020-х або наприкінці 2030-х. У 1999 році у книзі «Ера духовних машин» я назвав 2029 рік.
Ключове запитання, про яке я не згадав у законі пришвидшення віддачі, полягає в тому, що експоненціально зростає не лише апаратне, але й програмне забезпечення. Ми збираємося буквально злитися з цією технологією, щоб стати розумнішими. Це вже відбувається. Ці пристрої розширюють розум, і люди дійсно так вважають. Ще кілька років тому вони не думали про свої смартфони саме так. Технологія увійде в наше тіла і мозок, вона зробить нас розумнішими і цікавішими.
Поясніть межі для політиків: як вони мають думати про цю технологію, що їм дозволено робити, а що ні.
Я приділяв багато уваги етиці штучного інтелекту і тому, як зберегти технологію в безпеці. Технологія завжди буде двосічним мечем. Вогонь нас зігрів, приготував нам їжу і спалив наші будинки. Ця технологія набагато могутніша. Це довга дискусія, але ми повинні пройти три етапи, споглядаючи сходження штучного інтелекту. Насамперед це захоплення від можливості долати вікові страждання: злидні, хвороби тощо. Потім тривогу, що ці технології можуть бути руйнівними і викликати навіть екзистенціальні ризики. І, нарешті, вдячність за те, що у нас є моральний імператив для продовження прогресу в цих технологіях. Тому що, попри досягнутий прогрес, хоча люди думають, що ситуація погіршується, але насправді вона поліпшується, досі є багато людських страждань, які потрібно подолати. Це продовження прогресу, особливо в галузі штучного інтелекту, яке дозволить нам долати злидні, деградацію хвороб і довкілля. Але це водночас і небезпека.
А як щодо відкритості даних? Чи потрібно Конгресу зобов’язати кожного, хто працює над певною технологією, відкривати свої дані або хоча б бути до цього готовим і дозволяти конкурентам, наприклад, бачити їх. Що б ви порадили?
Я вважаю, що дані з відкритим кодом і алгоритмами – хороша ідея. Google відкрив всі свої алгоритми штучного інтелекту за допомогою TensorFlow. Я думаю, що поєднання відкритого коду і закону пришвидшення віддачі наблизить нас до ідеалів. Існує безліч проблем, таких як конфіденційність, і я думаю, що люди стурбовані ними. Немає правильних відповідей. Ми хочемо продовжувати прогрес, але коли у вас так багато влади, можуть бути зловживання навіть із добрими намірами.
Ваш погляд на майбутнє дуже оптимістичний. А щось вас турбує?
Мене звинувачують в оптимізмі, але кожен підприємець повинен бути оптимістом. Тому що якби ви дізналися про всі свої проблеми, ви би не почали жоден проект.
Ці технології дуже потужні, тому я переймаюся цим, навіть маючи оптимістичний настрій. І я оптимістично ставлюся до подолання цього етапу. Але я припускаю складні епізоди.
50 млн осіб загинуло під час Другої світової війни, і це було пов’язано із загостренням технологій у ті часи. Я думаю, це важливо мати на увазі, хоча люди і усвідомлюють, що ми займаємось прогресом.
Що повинні робити люди зі своєю кар’єрою в світі, який пов’язаний з абсолютно іншими технологіями. Яку пораду їм дасте?
Ідіть за своєю пристрастю, тому що не існує галузі, яка не буде порушена штучним інтелектом. Він витіснить нас, але зробить сильнішими. Це вже відбувається. Хто сьогодні може жити без цих «розширювачів розуму»? Люди кажуть, що тільки багатії можуть мати ці технології, а я говорю, що тільки смартфонів у світі вже 3 млрд. Через кілька років їх буде удвічі більше. І все завдяки ціновому вибуху.
Люди забули, звідки прийшли. Кілька років тому у нас були крихітні девайси, які виглядали як смартфони, але працювали не так добре. Тому революція мобільних додатків, наприклад, не могла статися п’ять років тому. Майте на увазі, що ще через п’ять років світ буде іншим, тому намагайтеся передбачити проекти, щоб зробити їх вчасно.
На ваш погляд, у роботів є темна сторона?
Ми багато дізнаємося про те, як ці платформи можна використовувати для посилення всіх можливостей людей і маніпулювати ними. Є думка, що життя починається з мільярда прикладів, і найкращий спосіб отримати досвід – вчитися у людей. Штучний інтелект саме це і робить. Також багато великих компаній досліджують відкритий код, щоб знеособлювати штучний інтелект, тому що, навчаючись у людей, він буде переймати їхні упередження щодо гендерного та расового питання. Існує ціла галузь для усунення упереджень у штучному інтелекті, тому він може бути менш упередженим, ніж люди, у яких він навчався.
Крім того, я думаю, що нове покоління більше, ніж будь-хто, відчуває себе громадянами світу, які контактують з усіма культурами.
В історії людства існує багато фаз, де спостерігається економічна нерівність. Чи вважаєте ви, що ХХ століття – аномалія в цьому сенсі, і як поширення технологій впливатиме на нерівність?
Бідність в Азії упала на понад 90%, за даними Світового банку. За минулі 20 років азійські країни перейшли від примітивних аграрних до процвітаючих інформаційних економік. В Африці і Південній Америці темпи зростання значно вищі, ніж у розвинених країнах. За минулі 20 років бідність в усьому світі скоротилася на 50%. Люди говорять про цифровий розрив, але його насправді немає. В Африці є інтернет і смартфони, люди користуються ними. Тому ми рухаємося у правильному напрямку. Завжди у світі існує нерівність, при якій страждають люди, але загальна тенденція оптимістична.
Ви згадали, що, попри оптимізм, вас турбує кілька екзистенційних ризиків. Що ви маєте на увазі, і що мають робити технології, щоб зменшити ці ризики?
Я маю на увазі, що екзистенційні ризики – це ризики, які загрожують виживанню нашої цивілізації. Першим таким ризиком було поширення ядерної зброї. Уже кілька разів ми мали можливість знищити все людство. Сьогодні також неважко вигадати руйнівні сценарії, наприклад, з використанням біотехнологій. Але водночас ми можемо перепрограмувати біологію так, щоб не було хвороб. Хоча б революційний винахід в імунотерапії, який є проривом у лікуванні раку – науковці знайшли можливість перепрограмування імунної системи таким чином, що вона продовжує працювати і після лікування дуже важкої хвороби. З іншого боку, біотерористи можуть перепрограмувати вірус, зробити його смертоносним і створити суперзброю.
Ми повинні будувати етичні цінності у програмному забезпеченні. Класичним прикладом є безпілотний автомобіль. Його мета – усунути 99% смертей водіїв. Але він може потрапити в ситуацію, де потрібно ухвалити етичне рішення: наїхати на дитячий візок або подружню пару чи врізатися у стіну і, можливо, вбити свого пасажира. Ви не можете надіслати імейл розробникам ПЗ і спитати: «Джі, що мені робити?». Це треба заздалегідь вбудувати у ПЗ.
Не існує простих алгоритмів. Немає підпрограм, які можна інтегрувати у штучний інтелект і зробити технологію доброякісною. Інтелект за своєю суттю некерований. Моя стратегія, яка не є бездоганною, – це практика такої етики, яку ми би хотіли бачити у суспільстві. Тому що майбутнє суспільство – це не вторгнення інтелектуальних машин з Марса, а поліпшені ми. Тож якщо ми будемо орієнтуватися на цінності, про які говоримо сьогодні, світ у майбутньому втілюватиме саме їх.
