Американский изобретатель и футуролог Рэй Курцвейл, который занимает должность технического директора по машинному обучению и обработке естественного языка Google, пообщался с главным редактором WIRED Николасом Томпсоном в Совете по международным отношениям. Мы приводим адаптивный перевод самых интересных моментов этого разговора.
Объясните закон ускорения отдачи, который является одной из фундаментальных идей вашей работы.
Во время подготовки проекта «Геном человека» 1% генома собирался в течение семи лет. Критики утверждали, что это не сработает – проект продлится 700 лет. Я тогда отреагировал так: «Ого, мы собрали 1%? Мы почти закончили». Потому что 1% – это только 7 удвоений от 100%. Ежегодно показатель удваивался, и проект закончили через семь лет. Первый геном стоил $1 млрд, а теперь – до $1 тыс.
Я вспомнил только одно из следствий закона ускорения отдачи, так как у него много эффектов пульсации и он действительно стоит за цифровой революцией, которую мы наблюдаем: дефляция 50% в информационных технологиях. Сегодня я могу получить те же вычисления, связи и данные мозга, что и год назад, уже за половину стоимости. Вот почему вы можете купить iPhone или Android-телефон вдвое лучше, чем два года назад, но за половину цены. Вы добавляете некоторые из улучшенных ценовых показателей в цену, а некоторые из них – в производительность.
В начале 2020-х мы сможем печатать одежду с помощью 3D-принтеров. Не сегодня, так как мы находимся в фазе хайпа вокруг 3D-печати. Вскоре появится очень много интересных проектов с открытым кодом, которые можно будет скачать бесплатно. У нас будет индустрия моды, так же как музыка, кино и книжная индустрия, которые сосуществуют со свободными проприетарными продуктами с открытым кодом. Мы сможем создавать дешевую пищу, используя гидропонику, искусственно клонировать мышечную ткань для мяса. Недавно в Азии собрали трехэтажное офисное здание в стиле Lego из модулей, напечатанных на 3D-принтере. Таким будет строительство в 2020-х
Поговорим об интеллекте, например, о телефоне в моем кармане. Он лучше, чем я, в математике. Он лучше, чем я, во многих вещах. Когда он будет лучшим, чем я, в разговоре? Когда у вас будет брать интервью телефон, а не я?
Моя команда в Google уже создает смарт-ответы. Мы пишем миллионы писем, но технология должна понимать смысл электронной почты, на которую отвечает, хотя предложенные формулировки краткие. Но ваш вопрос эквивалентен тесту Тьюринга. Я сторонник того, что тест Тьюринга является действительным тестом для всего спектра человеческого интеллекта. Вам нужна полная гибкость человеческого интеллекта, чтобы пройти тест. Вы не сможете воспользоваться простыми хитростями обработки естественного языка. Если человек не сможет увидеть разницу, можно считать искусственный интеллект человеческим. Это было моим ключевым прогнозом. В 1989 году в книге «Эра интеллектуальных машин» я говорил, что это произойдет в начале 2020-х или в конце 2030-х. В 1999 году в книге «Эра духовных машин» я назвал 2029.
Ключевой вопрос, о котором я не упомянул в законе ускорения отдачи, заключается в том, что экспоненциально растет не только аппаратное, но и программное обеспечение. Мы собираемся буквально слиться с этой технологией, чтобы стать умнее. Это уже происходит. Эти устройства расширяют ум, и люди действительно так считают. Еще несколько лет назад они не думали о своих смартфонах именно так. Технология войдет в наши тела и мозг, она сделает нас умнее и интереснее.
Объясните границы для политиков: как они должны думать об этой технологии, что им разрешено делать, а что нет.
Я уделял много внимания этике искусственного интеллекта и тому, как сохранить технологию в безопасности. Технология всегда будет обоюдоострым мечом. Огонь нас согрел, приготовил нам еду и сжег наши дома. Эта технология намного мощнее. Это долгая дискуссия, но мы должны пройти три этапа, созерцая восхождение искусственного интеллекта. Прежде всего это восторг от возможности преодолевать возрастные страдания: нищета, болезни и тому подобное. Затем тревогу, что эти технологии могут быть разрушительными и вызвать даже экзистенциальные риски. И, наконец, благодарность за то, что у нас есть моральный императив для продолжения прогресса в этих технологиях. Потому что, несмотря на достигнутый прогресс, хотя люди думают, что ситуация ухудшается, но на самом деле она улучшается, до сих пор существует много человеческих страданий, которые нужно преодолеть. Это продолжение прогресса, особенно в области искусственного интеллекта, которое позволит нам преодолевать бедность, деградацию, болезни и защитить окружающую среду. Но это одновременно и опасность.
А как насчет открытости данных? Нужно ли Конгрессу обязать каждого, кто работает над определенной технологией, открывать свои данные или хотя бы быть к этому готовым и позволять конкурентам, например, видеть их. Что бы вы посоветовали?
Я считаю, что данные с открытым кодом и алгоритмами – хорошая идея. Google открыл все свои алгоритмы искусственного интеллекта с помощью TensorFlow. Я думаю, что сочетание открытого кода и закона ускорения отдачи приблизит нас к идеалам. Существует множество проблем, таких как конфиденциальность, и я думаю, что люди обеспокоены ими. Нет правильных ответов. Мы хотим продолжать прогресс, но когда у вас так много власти, то могут быть злоупотребления даже с хорошими намерениями.
Ваш взгляд на будущее очень оптимистичен. А что вас беспокоит?
Меня обвиняют в оптимизме, но каждый предприниматель должен быть оптимистом. Потому что если бы вы узнали обо всех своих проблемах, вы бы не начали ни один проект.
Эти технологии очень мощные, поэтому я переживаю об этом, даже имея оптимистичный настрой. И я оптимистично отношусь к преодолению этого этапа. Но я предполагаю сложные эпизоды.
50 миллионов человек погибли во время Второй мировой войны, и это было связано со всплеском роста технологий в те времена. Я думаю, это важно иметь в виду, хотя люди и понимают, что мы занимаемся прогрессом.
Что должны делать люди со своей карьерой в мире, который связан с совершенно другими технологиями. Какой совет вы им дадите?
Следуйте за своей страстью, потому что не существует отрасли, которая не будет затронута искусственным интеллектом. Он вытеснит нас, но сделает сильнее. Это уже происходит. Кто сегодня может жить без этих «расширителей ума»? Люди говорят, что только богачи могут иметь эти технологии, а я говорю, что одних только смартфонов в мире уже 3 миллиарда. Через несколько лет их будет вдвое больше. И все благодаря ценовому взрыву.
Люди забыли, откуда пришли. Несколько лет назад у нас были крошечные аксессуары, которые выглядели как смартфоны, но работали не так хорошо. Поэтому революция мобильных приложений, например, не могла произойти пять лет назад. Имейте в виду, что через пять лет мир будет другим, поэтому старайтесь предусмотреть проекты, чтобы сделать их вовремя.
На ваш взгляд, у роботов есть темная сторона?
Мы много узнаем о том, как эти платформы можно использовать для усиления всех возможностей людей и манипулировать ими. Есть мнение, что жизнь начинается с миллиарда примеров, и лучший способ получить опыт – учиться у людей. Искусственный интеллект именно это и делает. Также многие крупные компании исследуют открытый код, чтобы обезличивать искусственный интеллект, потому что, учась у людей, он будет перенимать их предубеждения относительно гендерного и расового вопроса. Существует целая отрасль для устранения предубеждений в искусственном интеллекте, поэтому он может быть менее предвзятым, чем люди, у которых он учился.
Кроме того, я думаю, что новое поколение больше, чем кто-либо, ощущает себя гражданами мира, которые контактируют со всеми культурами.
В истории человечества существует много фаз, где наблюдается экономическое неравенство. Считаете ли вы, что ХХ век – аномалия в этом смысле, и как распространение технологий повлияет на неравенство?
Бедность в Азии упала более чем на 90%, по данным Всемирного банка. За прошедшие 20 лет азиатские страны перешли от примитивных аграрных к процветающим информационным экономикам. В Африке и Южной Америке темпы роста значительно выше, чем в развитых странах. За прошедшие 20 лет бедность во всем мире сократилась на 50%. Люди говорят о цифровом разрыве, но его на самом деле нет. В Африке есть интернет и смартфоны, люди пользуются ими. Поэтому мы движемся в правильном направлении. Всегда в мире существует неравенство, при котором страдают люди, но общая тенденция оптимистична.
Вы упомянули, что, несмотря на оптимизм, вас беспокоит несколько экзистенциальных рисков. Что вы имеете в виду и что должны делать технологии, чтобы уменьшить эти риски?
Я имею в виду, что экзистенциальные риски – это риски, которые угрожают выживанию нашей цивилизации. Первым таким риском было распространение ядерного оружия. Уже несколько раз мы имели возможность уничтожить все человечество. Сегодня также нетрудно придумать разрушительные сценарии, например, с использованием биотехнологий. Но одновременно мы можем перепрограммировать биологию так, чтобы не было болезней. Взять хотя бы революционное изобретение в иммунотерапии, которое является прорывом в лечении рака – ученые нашли возможность перепрограммирования иммунной системы таким образом, что она продолжает работать и после лечения очень тяжелой болезни. С другой стороны, биотеррористы могут перепрограммировать вирус, сделать его смертоносным и создать супероружие.
Мы должны выстраивать этические ценности в программном обеспечении. Классическим примером является беспилотный автомобиль. Его цель – устранить 99% смертей водителей. Но он может попасть в ситуацию, где нужно принять нравственное решение: наехать на коляску или супружескую пару или врезаться в стену и, возможно, убить своего пассажира. Вы не можете отправить электронное письмо разработчикам ПО и спросить: «Джи, что мне делать?» Это надо заранее встроить в ПО.
Не существует простых алгоритмов. Нет подпрограмм, которые можно интегрировать в искусственный интеллект и сделать технологию доброкачественной. Интеллект по своей сути неуправляем. Моя стратегия, которая не является безупречной, – это практика такой этики, которую мы бы хотели видеть в обществе. Потому что будущее общество – это не вторжение интеллектуальных машин с Марса, а улучшенные мы. Поэтому, если мы будем ориентироваться на ценности, о которых говорим сегодня, мир в будущем будет воплощать именно их.
