С точки зрения технической части, мощность, необходимая для ОИИ, уже доступна сейчас, в Китае, и будет готова добраться до широкого потребления в течение 10 лет. Но только вычислительная мощность сама по себе не делает компьютер умным: следующий вопрос — как заставить всю эту мощь думать?
Тим Урбан, один из двух авторов блога «Wait But Why», написал эту статью в двух частях ещё год назад. За это время тема искусственного интеллекта обросла подробностями и открытиями как техногигантов мира, так и небольших научных лабораторий. Тем не менее, ценность материала состоит в том, что он не стремится объяснить сущность понятия «artificial intelligence», его цель — изменить отношение обывателя к самой тематике вопроса. Искусственный интеллект, по мнению Тима, это не «вау, Siri такая остроумная», а уже наступившее будущее, которое незаметно меняет нашу жизнь, но совсем не похоже на фантастическое кино.
Мы на пороге изменений, сравнимых с расцветом человечества на Земле, — Вернор Виндж
Как вы себя чувствуете, стоя здесь?
Кажется, что это довольно напряжённое место, пока не вспомнишь, что значит стоять на временной шкале на самом деле: ты не можешь видеть ничего, что справа от тебя. Так что в реальности вот, как ощущается стоять на этом месте:
И, в принципе, это ощущение нормальности...
Далёкое будущее — в ближайшее время
Представьте, что вы переместились на машине времени назад в 1750-е — время, когда мир находился в состоянии перманентного отсутствия электричества, общение на длинные расстояния значило либо громкий крик, либо пушечный выстрел в воздух, а транспорт работал на сене. Прибываете в это время, берёте первого попавшегося паренька, переносите в 2015, показываете наше время и смотрите, как он на всё реагирует. Нам просто невозможно понять, каково ему будет увидеть блестящие капсулы, гоняющие по хайвэю, разговаривать с людьми, которые ещё утром находились на другой стороне океана, слушать концерт, записанный ещё 50 лет назад, и играть с волшебным прямоугольником, с помощью которого можно сделать фото или записать видео, отобразить карту с паранормально двигающейся голубой точкой, которая показывает, где ты сейчас находишься. И всё это ещё до того, как вы покажете ему интернет и объясните такие вещи, как Международная космическая станция, Большой адронный коллайдер, атомное оружие или теория относительности.
Этот опыт не станет для него удивительным или шокирующим, или даже «выносящим мозг» — эти слова слишком слабы. Вероятно, он просто умрёт.
Но вот что интересно. Если он вернётся назад в 1750 год и позавидует тому, что мы видели вот эту его реакцию, то он тоже захочет построить машину времени, вернётся назад на ту же дистанцию, вытащит кого-нибудь из 1500 года, доставит в 1750-й и всё ему покажет. И парень из 1500-го будет шокирован очень многими вещами, но не умрёт. Это будет куда менее безумный опыт для него, потому что хотя 1500 и 1750-й годы были очень разными, но разница между ними гораздо меньше, чем между 1750 и 2015-м. Парнишка из 1500-го узнает немного галлюциногенного бреда о космосе и физике, впечатлится, насколько идейной станет Европа с этим новым империалистическим пунктиком, но основные изменения коснутся его в области картографической концепции мира. Но наблюдение за бытовой жизнью в 1750-м — перевозки, коммуникация и т. д. — точно не убьёт его.
Нет, чтобы парнишка из 1750-го смог так же повеселиться, как мы с вами, ему пришлось бы вернуться куда раньше во времени — может быть, прямо к 12 000 году до н. э., ещё до Неолитической аграрной революции, которая дала жизнь первым городам и цивилизационной концепции. Если кто-то из мира охотников и собирателей — периода, когда человек был, в той или иной степенни, только разновидностью среди животных — увидит громадные империи 1750 года с их башнями, кораблями, бороздящими океаны и их безграничные горы коллективного, аккумулированного человеческого знания и открытий, тогда он, вероятно, умрёт.
А вот парню из 12 000 года до н. э., чтобы настолько впечатлить кого-то, придётся отправиться ещё на 100 000 лет назад и найти того, кому он сможет показать огонь и человеческую речь.
Чтобы перенести кого-то в будущее и поразить до смерти, нужно отправиться достаточно далеко в прошлое, чтобы достичь Единицы Смертельного Прогресса (ЕСП). Итак, ЕСП достигается за 100 000 лет в период охоты и собирательства, но в пост-аграрнореволюционную эпоху достаточно уже 12 000 лет. А в пост-индустриальное время мир начал двигаться так быстро, что парню из 1750-го нужно переместиться всего на пару сотен лет вперёд, что достичь ЕСП.
Эту модель — ускорение человеческого прогресса с течением времени — футурист Рэй Курцвейл называет Законом ускоряющейся отдачи. Так происходит, потому что более продвинутое общество способно двигаться в ускоренном темпе по сравнению с менее продвинутым обществом. Человечество 19-го века знало больше и было более технологичным, чем человечество 15-го века, поэтому неудивительно, что человечество сделало куда больше открытий в 19-м веке, чем в 15-м.
Этот принцип работает и в масштабах поменьше. Фильм «Назад в будущее» вышел в 1985 году, «прошлое» по сценарию происходило в 1955-м. Когда Майкл Дж. Фокс вернулся в 1955, его застигли врасплох необычность телевидения, цены на содовую, отсутствие любви к электрогитарам и совсем другой сленг. Это был совсем другой мир, правда, но если бы фильм сняли сегодня и герой вернулся в прошлое в 1985 год, разница была бы значительно большей. Персонаж попал бы во время до ПК, интернета, смартфонов — сегодняшний Марти Макфлай, тинейджер, родившийся в конце 90-х, почувствовал бы себя куда больше не в своей тарелке в 1985 году, чем знакомый нам Марти чувствовал себя в 1955-м.
И виной тому та же причина, которую мы только что обсудили — Закон ускоряющейся отдачи. Средний уровень совершенствования между 1985 и 2015 годами значительно выше, чем между 1955 и 1985, потому что в последние 30 лет произошло куда больше изменений, чем в предыдущие 30 лет.
Итак, «апгрейд» во всех сферах происходит всё чаще и быстрее. Это предполагает кое-что крутое в нашем недалёком будущем, да?
Курцвейл предполагает, что прогресс всего 20-го века можно было бы достичь лишь за 20 лет при уровне развития 2000 года — другими словами, к 2000-му году прогресс был в пять раз быстрее среднего уровня прогресса 20-го века. Он также считает, что в следующий раз объём общего прогресса прошлого века был достигнут в период с 2000 по 2014 год, а следующий произойдёт до 2021, то есть всего за семь лет. Именно согласно Закону ускоряющейся отдачи, как полагает Курцвейл, 21-й век достигнет в тысячу раз большей скорости развития предыдущего века.
Если Курцвейл и согласные с ним правы, то 2030 год «снесёт нам головы» так же, как это произошло с парнем из 1750 года в 2015. Например, следующего ЕСП можно будет достичь всего за несколько десятков лет и мир 2050 года будет настолько отличаться от сегодняшнего, что мы едва сможем его узнать.
Это не научная фантастика. Это то, во что верят многие учёные, которые умнее и образованнее вас или меня, и если вы посмотрите на историю, это именно логичный прогноз развития.
Так почему, когда вы слышите от меня что-то вроде «через 35 лет с сегодняшнего дня мир станет абсолютно неузнаваем», вы думаете: «Круто... но нееееет»? Вот три причины, по которым мы скептично относимся к самым диковинным прогнозам будущего:
1. Когда речь идёт об истории, мы представляем ровные линии. Когда мы представляем прогресс следующих 30 лет, то оглядываемся на прогресс предыдущих 30 лет в качестве индикатора того, что наиболее вероятно произойдёт. Когда мы размышляем о степени изменения мира в 21 веке, то всего-лишь берём прогресс 20-го века и прибавляем к 2000 году. Это та же ошибка, которую сделал наш парень из 1750 года, когда перенёс в будущее кого-то из 1500 года и ожидал шокировать его до смерти так же, как сам был шокирован на таком же расстоянии в будущем. Интуитивно понятный для нас способ мышления — линейный, а должен быть экспоненциальным. Чтобы делать прогнозы о будущем на следующие 30 лет, нужно не смотреть на предыдущие 30 лет, а оценить текущий уровень прогресса и делать предположения на этом основании. Прогнозы были бы более точными, но всё равно далеки от правды. Чтобы правильно размышлять о будущем, нужно уметь представлять развитие ещё быстрее, чем оно происходит сейчас.
2. Самый близкий к нам период истории часто искажён в нашем сознании. Во-первых, даже крутая экспоненциальная кривая кажется прямой, когда вы смотрите на её крошечный кусочек, точно так же, как огромная окружность кажется прямой, если рассматривать только небольшой её участок с близкого расстояния. Во-вторых, экспоненциальный рост не бывает абсолютно гладким и однородным. Курцвейл объясняет, что прогресс происходит в виде S-кривых:
S создаётся волной прогресса, во время которой новая парадигма сметает всё перед собой. Кривая проходит три фазы:
- Медленный рост (ранняя фаза экспоненциального роста)
- Стремительный рост (поздняя, взрывная фаза экспоненциального роста)
- Нивелирование, когда конкретная парадигма достигает зрелости
Если вы посмотрите на ближайшую историю, кусочек S-кривой, на котором вы сейчас находитесь, может перевернуть ваше восприятие того, насколько быстро двигается время. Между 1995 и 2007 годом произошёл взрыв интернета, внедрение Microsoft, Google и Facebook в общественное сознание, рождение социального нетворкинга, трансформация мобильных телефонов в смартфоны. Это была Фаза 2: стремительный рост. А вот с 2008 по 2015 рост замедлился, по крайней мере, в технологической части. Некоторые думают, что сегодня как раз время прогнозировать будущее и оценивать текущий темп прогресса, но они не видят всей картины. На самом деле, новая, большая Фаза 2 экспрессивного роста начинается именно сейчас.
3. Наш собственный опыт превращает нас в упрямых стариков в вопросах будущего. Мы базируем наши идеи о мире на личном опыте, и этот опыт укоренил в наших головах темпы роста недавнего прошлого в качестве мысли «именно так всё и происходит». Мы также ограничены воображением, которое использует наш опыт, чтобы создавать прогнозы о будущем, хотя часто то, что нам знакомо, просто не способно дать возможность представить будущее. Если мы слышим предсказание, которое идёт вразрез с нашим ощущением, которое базируется на собственном опыте, оно кажется нам наивным. Если я скажу вам дальше в статье, что вы проживёте 150 или 200 лет или вообще никогда не умрёте, инстинктивно подумаете: «Это глупо: если чему-то меня и научила история, так это то, что все умирают». И да, в прошлом все умерли. Но никто и не летал на самолётах до тех пор, пока их не изобрели.
Поэтому пока вам кажется, что «нееееет» — это правильный ответ, на самом деле это не так. Факт в том, что когда более совершенные виды на планете делают всё большие и большие прыжки вперёд, однажды они сделают настолько большой прыжок, что их жизнь и понимание собственной сущности кардинально изменятся. Если вы потратите немного времени, чтобы почитать о том, что происходит с современной наукой и технологиями, то увидите множество признаков перемен в сравнении с нашей обычной жизнью.
Дорога к суперинтеллекту
Что такое ИИ?
Вы могли думать, что Искусственный Интеллект — это глупый научно-фантастический концепт, но потом начали слышать эту фразу из уст серьёзных людей, хотя до конца не поняли её сути.
Есть три причины, почему большинство людей смущает термин ИИ:
- Мы ассоциируем ИИ с фильмами. Звёздные войны. Терминатор. 2001: Космическая Одиссея. Даже «Джетсоны». Всё это фантастика, как и персонажи роботов. Поэтому ИИ звучит для нас фантастично.
- ИИ — это обширная тема. Она охватывает всё от калькулятора в вашем телефоне и машин с автопилотом до чего-то в будущем, что может кардинально изменить мир. ИИ относится ко всем этим вещам, что и смущает.
- Мы используем ИИ всё время в повседневной жизни, но часто даже не осознаём это. Джон МакКарти, который придумал понятие «Искусственный Интеллект» в 1956 году, жаловался, что «как только он заработает, никто больше не будет называть его так». Из-за этого феномена ИИ чаще звучит, как мифическое предсказание будущего, чем реальность. Одновременно он заставляет ИИ звучать, как поп-концерт из прошлого, который никогда не осуществится.
Давайте проясним ситуацию. Во-первых, перестаньте думать о роботах. Робот — это оболочка для ИИ: иногда она мимикрирует под человеческую форму, иногда нет, но сам по себе ИИ — это компьютер внутри робота.
Во-вторых, вы, наверное, слышали термин «сингулярность» или «технологическая сингулярность». Этот термин используют в математике, чтобы описать ситуации, схожие с асимптотой, когда обычные правила больше не действуют. Его используют в физике, чтобы описать бесконечно маленькую, плотную чёрную дыру или точку, в которой нас расплющило прямо перед Большим Взрывом. Вот пример ситуации, к которой неприменимы обычные правила. В 1993 году Вернор Виндж написал знаменитое эссе, в котором применил термин к моменту в будущем, когда интеллект технологий превысил наш собственный — он описал этот момент как такой, который навсегда изменит жизнь и привычные правила станут неприменимы. Рэй Курцвейл затем привнёс немного путаницы, описав сингулярность, как время, когда Закон ускоряющейся отдачи достигнет такого экстремального темпа, что технологический прогресс станет беспрерывным.
Итак, поскольку существует множество форм ИИ, который является широким понятием, есть критические категории, которые базируются на масштабах ИИ. Существуют три основных масштаба:
Узкий Исскуственный Интеллект (УИИ): иногда ему дают определение «слабый», область ИИ, которая специализируется на одной сфере. Существует ИИ, который способен победить чемпиона по шахматам, но это единственное, что он умеет. Попросите его придумать лучший способ хранения данных на жёстком диске и он посмотрит на вас безучастно.
Общий Искусственный Интеллект (ОИИ): иногда ему дают определение «сильный» или «ИИ уровня человека», это компьютер, который умён в равной степени с человеком и может решить любую интеллектуальную задачу, доступную для человеческого мозга. Создание ОИИ — задача куда сложнее, чем создание УИИ, и нам только предстоит это сделать. Профессор Линда Готтфредсон описывает интеллект, как «очень общую умственную способность, которая, среди прочего, даёт возможность рассуждать, планировать, решить проблемы, мыслить абстрактно, придумывать сложные идеи, быстро обучаться и пользоваться опытом». ОИИ сможет делать все эти вещи так же просто, как и вы.
Искусственный Суперинтеллект (ИСИ): оксфордский философ и лидирующий ИИ-мыслитель Ник Бостром объясняет суперинтеллект, как «интеллект, который значительно умнее лучшего человеческого мозга практически во всех сферах, включая научную креативность, общую разумность и социальные навыки». Искусственный Суперинтеллект может варьироваться от компьютера, который всего лишь чуть-чуть умнее человека, до такого, который разумнее в триллионы раз. ИСИ — это причина, по которой тема ИИ не уходит из голов учёных и по которой слова «бессмертие» и «вымирание» никогда не покинут текстов на эту тему.
Пока что людям удалось покорить низший масштаб — УИИ — он окружает нас повсюду. ИИ-революция — это дорога от УИИ, через ОИИ, к ИСИ — дорога, которую мы можем пережить или нет, но, в любом случае, в корне всё изменим.
Давайте узнаем, что думают лучшие умы в этой области о том, как выглядит эта дорога и почему эта революция случится раньше, чем вы думаете.
Что происходит сейчас — Мир, который живёт на УИИ
Узкий Искусственный Интеллект — это машинный интеллект, который равняется или превышает человеческий интеллект или способности в определённой области. Несколько примеров:
- Машины напичканы УИИ-системами: от компьютера, который знает, когда включить антиблокировочную систему, до компьютера, который замеряет параметры системы управления впрыском топлива. Самоуправляемая машина Google, которая проходит сейчас тестирование, будет управляться именно УИИ-системами: они дадут им возможность воспринимать и реагировать на окружающий мир.
- Ваш телефон — это маленькая УИИ-фабрика. Когда вы используете приложение карты, получаете персонализированные рекомендации от музыкального приложения, проверяете погоду, общаетесь с Siri или делаете сотню других ежедневных активностей, вы используете именно УИИ.
- Спам-фильтр в электронной почте — это классический тип УИИ — он начинает работать с предустановленным интеллектом, чтобы определить, что является спамом, а затем он обучается, персонализируется под вас, согласно вашим ежедневным действиям.
- Есть ещё такая жуткая штука, которая случается, когда вы ищете вещь на Amazon и затем на другом сайте встречаете её в разделе «рекомендованное вам», или когда Фейсбук каким-то образом знает, кого вам стоит добавить в друзья. Это сеть УИИ-систем, которые работают вместе, информируют друг друга о том, кто вы и что вам нравится, а потом, используя эту информацию, решают, что вам показывать.
- Google Переводчик — это ещё одна классическая УИИ-система, которая невероятно хороша в одной конкретной задаче. А вот распознавание голоса — это целая куча разных приложений, которые используют две УИИ-системы и позволяют вам говорить предложение на одном языке, а телефону — выдавать его же на другом.
- Когда приземляется ваш самолёт, не человек решает, на какой полосе ему это сделать. Также, как и не человек решает, сколько будет стоить ваш билет.
- Лучшие игроки мира в шашки, шахматы, Скраббл, нарды — всё это УИИ-системы.
- Поиск Google — это один большой УИИ-мозг с доведёнными до совершенства методами ранжирования страниц и определения, что показывать в каждом конкретном случае. То же самое происходит в новостной ленте Фейсбука.
- Так же идут дела в мире потребителей. Совершенные УИИ-системы широко используются в различных рыночных секторах и отраслях: в военном, производственном, финансовом (на долю алгоритмических высокочастотных ИИ-трейдеров приходится больше половины ценных бумаг, которые находятся в обороте на рынке США). Используются и в профессиональных системах, как те, которые помогают докторам ставить диагнозы, и, самый известный, суперкомпьютер IBM Watson, который знал достаточно фактов, чтобы разгромно победить чемпионов интеллектуальной игры Jeopardy.
УИИ-системы в современном виде не представляют опасности. В худшем случае, «глюкнутый» или плохо запрограммированный УИИ может привести к глобальной катастрофе, например, отключение энергосистемы, в результате чего могут взорваться АЭС, или вызвать финансовые катастрофы (как «2010 Flash Crash», когда программа неправильно отреагировала на неожиданную ситуацию и стала причиной резкого пике фондового рынка, что привело к потере триллиона долларов, вернуть из которых удалось только часть, когда ошибка была исправлена).
Но, пока у ИИ нет возможности причинить вред существованию, мы увидим быстрорастущую и сложную экосистему относительно безвредных УИИ, которые станут признаком надвигающегося урагана изменения мира. Каждая УИИ-инновация добавляет ещё один кирпичик в дорогу к Суперинтеллекту. Или, как это видит Аарон Саенз (автор журнала «Хаб Сингулярности»), наш мир УИИ-систем «подобен первым аминокислотам в первобытном иле начала мира».
Дорога от УИИ к ОИИ
Почему она так тяжела?
Ничто не заставит вас настолько ценить человеческий интеллект, как осознание невероятной сложности попытки создать такой же умный компьютер, как и мы. Строительство небоскрёбов, отправка человека в космос, выяснение деталей Большого Взрыва — всё это проще, чем понимание работы нашего мозга и создание чего-то такого же крутого. Человеческий мозг — это самый сложный известный нам объект во Вселенной.
Интересно, что сложности в создании ОИИ (равноценного человеческому мозгу компьютера не в одной сфере) — совсем не то, что вам кажется. Построить компьютер, который умеет умножать два десятизначных числа за долю секунды, невероятно легко. Построить такой, который может посмотреть на собаку и отличить её от кота, невообразимо сложно. Создать ИИ, который победит человека в шахматах? Сделано. Создать такой, который может прочесть параграф из дневника 6-летки и не просто распознать слова, но и понять их значение? Google тратит миллиарды долларов в попытке сделать это. Сложные вещи — счёт, стратегия финансового рынка, перевод — ошеломляюще простые задачи для компьютера, в то время, как простые вещи — зрение, жесты, движение, восприятие — ужасно сложные задачи. Или, как говорит учёный Дональд Кнут, «ИИ достиг успеха в совершении, в основном, всего, что требует “думать”, но провалился при попытке сделать то, что делает большинство людей и животных “неосознанно”».
Когда вы думаете об этом, то быстро понимаете, что то, что кажется нам простым, на самом деле невероятно сложно и действительно только кажется простым, потому что эти навыки закреплялись в нас сотни миллионов лет эволюции. Когда вы протягиваете руку навстречу объекту, мускулы, сухожилия и кости в вашем плече, локте и запястье проделывают долгую цепочку физических операций при участии глаз, чтобы позволить руке двигаться по прямой линии в трёх измерениях. Это кажется не требующим усилий, потому что вы довели до совершенства программное обеспечение вашего мозга, чтобы сделать это. Вот почему это не вредоносная программа настолько тупа, чтобы пройти тест распознавания символов при регистрации на сайте, а ваш мозг настолько совершенен, чтобы это сделать.
С другой стороны, умножение больших чисел и игра в шахматы — это новые занятия для биологических структур, и у нас не было достаточно времени, чтобы усовершенствовать свои навыки, поэтому компьютеру не нужно сильно напрягаться, чтобы обойти нас. Подумайте: что бы вы скорее сделали — построили программу, которая может умножать большие числа, или ту, которая понимает сущность буквы «Б» достаточно, чтобы распознать её среди тысяч непредсказуемых шрифтов и написаний и каждый раз понимать, что это именно «Б»?
Забавный пример. Смотря на эту фигуру, и вы, и компьютер сможете понять, что это прямоугольник с разными сменяющими друг друга оттенками:
Пока все справляются. Но если забрать чёрный цвет и открыть всю картинку...
...у вас не будет проблем с описанием различных непрозрачных и прозрачных цилиндров, рёбер и трёхмерных углов, но компьютер с треском провалится. Он опишет, что видит: набор двумерных форм нескольких оттенков — и это именно то, что он видит. Ваш мозг прорабатывает тонну информации, чтобы интерпретировать предполагаемую глубину, микс оттенков и освещение, которые пытается передать картинка. А глядя на изображение ниже, компьютер видит двумерный бело-чёрно-серый коллаж, в то время как вы легко определите, что это фото полностью чёрного трёхмерного камня:
И всё, что мы только что упомянули, — это только восприятие статичной информации и её обработка. На уровне человеческого интеллекта компьютер смог бы понимать такие вещи, как разница между едва уловимыми человеческими эмоциями, различия в степени удовлетворения, облегчения, спокойствия, радости и почему «Храброе сердце» — это круто, а «Патриот» — ужасно.
Обескураживающе.
Итак, как же мы придём к этому?
Первый ключ к созданию ОИИ: наращивание вычислительной мощности
Первое, что должно произойти, чтобы ОИИ стал реальностью, — увеличение мощности компьютерной техники. Если искусственный интеллект собирается стать подобным мозгу, ему необходима равноценная мозгу базовая вычислительная ёмкость.
Выразить эту ёмкость можно через общее количество вычислительных операций в секунду, которое способен осилить мозг. Чтобы вычислить эту величину, нужно узнать максимальное число операций в секунду в каждой структурной единице мозга и суммировать их.
Рэй Курцвейл нашёл кратчайший путь к этому, взяв количество вычислительных операций человека при решении профессиональной задачи в качестве одной из структур мозга, вычислив приблизительный вес этой структуры в отношении всего мозга и затем пропорционально перемножив их, чтобы оценить общее количество. Звучит ненадёжно, но он провёл эти вычисления множество раз с разными профессионалами в разных регионах, и каждый раз получал примерно одинаковое число — 1016 или 10 квадриллионов вычислительных операций в секунду.
Самый быстрый пока что суперкомпьютер, китайский Tianhe-2, на самом деле, превысил это число, достигнув 34 квадриллионов вычислительных операций. Но Tianhe-2 — это ещё и штуковина, которая занимает 720 м2 пространства, используя 24 мегаватт энергии (мозгу достаточно всего 20 ватт), стоимостью 390 миллионов долларов. Не очень-то удобно для широкого применения, даже для коммерческого или промышленного.
Курцвейл говорит, что мы оцениваем состояние компьютера по количеству вычислительных операций и стоимостью при этом в 1000 долларов. Когда количество операций такого компьютера достигнет человеческого уровня — 10 квадриллионов — это будет значить, что ОИИ стал реальной частью нашей жизни.
Закон Мура — это исторически-подтверждённое правило о том, что мировой максимум компьютерной мощности удваивается примерно каждые два года. Это означает, что совершенствование техники, как и общее совершенствование человека, растёт в геометрической прогрессии. Если сопоставить эти данные с метрикой Курцвейла по количеству операций в секунду за 1000 долларов, мы достигли 10 триллионов операций по цене в 1000 долларов, прямо на том уровне, который спрогнозирован на графике:
Итак, тысячедолларовые компьютеры сейчас способны побороть мышиный мозг, они достигли тысячной доли человеческого уровня. Кажется, что это мало, но вспомните хронологию: они были на уровне триллионной части человеческого интеллекта в 1985 году, миллиардной — в 1995, миллионой — в 2005. Достичь тысячной части в 2015 году значит, что каждый доступный компьютер сможет обладать мощностью мозга к 2025 году.
Это неприятная часть. Правда в том, что никто не знает, как сделать его умным — мы до сих пор спорим, как довести компьютер до уровня человеческого интеллекта и сделать его способным понимать, что такое собака, странно-написанная буква «Б» или заурядность. Но есть ряд притянутых за уши стратегий и некоторые из них даже сработают. Вот самые распространённые стратегии, которые я нашёл:
Плагиат мозга
Учёные похожи, условно говоря, на ребёнка, который сидит в классе рядом с умником, не понимает, почему у того так хорошо получается решить тест, но как бы ребёнок не учился, у него не получается стать таким, как умник. В итоге он решает: «К чёрту это всё, я просто перепишу ответы этого умника». И в этом есть смысл — мы в тупике попыток построить суперсложный компьютер, хотя в голове каждого из нас есть идеальный прототип.
Учёный мир тяжело работает над обратной инженерией мозга, чтобы понять, как эволюция сделала нас такими умными — оптимистические прогнозы говорят, что мы сможем сделать это к 2030 году. Как только мы это сделаем, выясним все секреты эффективности работы нашего мозга, сможем черпать из него вдохновение и перенять инновации. Один из примеров компьютерной архитектуры, которая имитирует мозг — это искусственная нейронная сеть. Изначально это сеть транзисторных «нейронов», соединённых друг с другом входами и выходами, которая ничего не знает — подобно мозгу младенца. Она «обучается» в попытках выполнять задания, например, распознавать рукописный текст, и поначалу её удачи и последующие догадки в расшифровке каждой буквы будут совершенно случайными. Но когда она узнает, что сделала что-то правильно, транзисторные соединения, которые и выдали ответ, окрепнут; когда говорят, что ответ неверен, эти соединения слабеют. После множества попыток и обратной связи сеть сама сформирует умные нейронные пути и машина усовершенствуется в работе над задачей. Мозг обучается примерно так же, но более утончённым образом. Если мы продолжим изучать мозг, то откроем новые изобретательные способы использования нейронной схемы.
Более экстремальный тип плагиата — стратегия под названием «полная эмуляция мозга», цель которой — разделить настоящий мозг на тонкие слои, просканировать каждый, построить его точную 3D-модель в специальных программах, а затем встроить её в мощный компьютер. Тогда мы получим компьютер, который может делать всё, на что способен мозг — ему нужно будет только учить и собирать информацию. Если инженеры действительно хорошо справятся с этой задачей, то смогут произвести настолько аккуратную и точную эмуляцию мозга, что вся его индивидуальность и память сохранятся при загрузке на любой компьютер. Если мозг принадлежал Джиму перед смертью, то компьютер проснётся Джимом уровня ОИИ, и мы сможем работать над тем, чтобы превратить Джима в невероятно развитый ИСИ, чему он, наверное, будет несказанно рад.
Как далеки мы от достижения полной эмуляции мозга? Ну, настолько далеки, что до сих пор так и не смогли эмулировать кусок мозга размером с одномиллиметрового плоского червя, состоящий лишь из 302 целых нейронов. А всего их в мозге 100 миллиардов. Если это кажется безнадёжной затеей, вспомните о силе геометрической прогрессии: сегодня мы победим кусок мозга размером с крохотного червя, достаточно много времени займёт дойти до размера насекомого, зато за ним сразу идёт мышь, и вдруг конечная цель оказывается куда более вероятной.
Попытка заставить эволюцию сделать то, что она делала раньше, но уже в наших интересах
Итак, если мы решили, что ответы умника на тест слишком сложно скопировать, можем попробовать скопировать способ, который использует умник, чтобы подготовиться к тесту.
Что мы уже знаем? Построить такой же мощный компьютер, как и человеческий мозг, возможно, а эволюция мозга доказана. И если для нас слишком сложно эмулировать мозг, мы можем эмулировать эволюцию. Факт в том, что даже если мы сможем эмулировать мозг, это будет похоже на попытку построить самолёт, копируя движения крыльев птиц.
Итак, как мы можем симулировать эволюцию, чтобы построить ОИИ? Метод под названием «генетические алгоритмы» будет работать как-то так: будет воспроизведён процесс производства-и-оценки, который будет непрерывно повторяться (по типу того, как биологические структуры «производят» жизнь и происходит «оценка» их способности к репродукции). Группа компьютеров будет пытаться решить поставленные задачи, самые успешные частично объединят вместе в один компьютер, взяв половину программной части от каждого. Наименее успешных ликвидируют. Спустя много-много повторов этот процесс естественного отбора даст результаты в виде всё лучших и лучших компьютеров. Задача будет заключаться в создании автоматизированного цикла ликвидации и объединения, чтобы эволюционный процесс происходил сам собой.
Обратная сторона копирования эволюции в том, что эволюции нравится отводить на эти циклы миллиарды лет, а мы хотим сделать это за несколько десятилетий.
Но у нас есть множество преимуществ перед эволюцией. Во-первых, эволюция не предусмотрительна и работает бессистемно — она производит больше бесполезных мутаций, чем полезных, а мы будем контролировать процесс, чтобы выбирать только полезные сбои и целевые твики (навороты, говоря простым языком — ред.). Во-вторых, эволюция ни на что не нацелена, включая интеллект — иногда окружающая среда делает выбор даже против более высокого интеллекта (потому что он использует слишком много энергии). Мы, с другой стороны, можем специально направить эволюционный процесс на умножение интеллекта. В-третьих, чтобы сделать выбор в пользу интеллекта, эволюции нужно выдумать целый ряд способов, чтобы облегчить процесс его использования — например, модернизировать способ производства энергии в клетках. В то время, как мы можем не задумываться об этом бремени и использовать электричество. Нет сомнений, что мы были бы куда быстрее эволюции. Но всё равно до сих пор не ясно, сможем ли мы достаточно усовершенствовать эволюционный процесс, чтобы сделать его жизнеспособной стратегией.
Сделать всё это проблемой компьютера, а не нашей
Это когда учёные впадают в отчаяние и пытаются заставить тест пройти себя самостоятельно. Но это может быть самым многообещающим способом из всех.
Идея в том, чтобы построить компьютер, двумя базовыми навыками которого будет исследование в области искусственного интеллекта и программирование изменений в самом себе — это даст ему возможность не только учиться, но и совершенствовать собственную архитектуру. Мы бы научили компьютеры быть компьютерными учёными, чтобы они могли делать начальную загрузку своего строения. И это будет их основной работой — определять, как сделать самих себя умнее. Подробнее об этом позже.
Всё это может произойти скоро
Скоростное совершенствование оборудования и инновационные эксперименты с программами происходят одновременно, и ОИИ может подкрасться к нам быстро и неожиданно по двум основным причинам:
- Экспоненциальный рост усиливается и то, что кажется улиточным шагом совершенствований, может быстро погнаться вверх.
- Когда разговор идёт о программах, прогресс кажется медленным, но затем у кого-то происходит прозрение, которое полностью меняет уровень программного совершенства (как, например, в науке: пока люди думали, что Вселенная геоцентрична, они не могли посчитать время её существования, но затем выяснили её гелиоцентрическое строение и внезапно всё оказалось значительно проще). Или, когда мы говорим, что компьютер должен улучшать сам себя, кажется, что мы очень далеки от этого, но на самом деле мы в одном случайном шаге от увеличения эффективности компьютера в тысячи раз и приближении к уровню человеческого интеллекта.
Дорога от ОИИ к ИСИ
Допустим, нам удалось каким-то образом построить компьютер с уровнем интеллекта, равным человеческому. И вот кучка людей и компьютеров живут вместе в равенстве.
Ну, вообще-то, не совсем.
Дело в том, что ОИИ с идентичным уровнем интеллекта и вычислительной мощностью, как у человека, всё равно будет обладать преимуществами. Как, например:
С технической стороны:
- Скорость. Максимальная скорость мозговых нейронов 200 Гц, а уже нынешние микропроцессоры (которые значительно медленнее, чем когда достигнут уровня ОИИ) работают на скорости 2 ГГц, в 10 миллионов раз быстрее нейронов. А внутриклеточную мозговую коммуникацию, которая происходит со скоростью 120 м/с, значительно превзошла компьютерная способность коммуницировать оптически со скоростью света.
- Размер и ёмкость. Размер мозга зависит от формы нашего черепа, ни за что не сможет увеличиться, а скорость в 120 м/с — это слишком долгая передача информации из одной мозговой структуры в другую. Компьютеры могут увеличиться до любого размера, позволяя работать одновременно как можно большему числу техники, вместить значительно больше рабочей памяти (RAM) и долгосрочного хранилища (жёсткий диск), и у всего этого куда больше ёмкости и точности, чем у нас.
- Надёжность и долговечность. Хранение памяти в компьютере не только более надёжное. Компьютерные транзисторы гораздо точнее, чем биологические нейроны, и меньше шансов на их вывод из строя (не говоря уж о том, что их можно починить или заменить в случае чего). Ну, и человеческий мозг быстро устаёт, а компьютеры могут работать непрерывно на пределе возможностей в режиме 24/7.
С программной стороны:
- Возможность исправления, модернизации и шире способности. В отличие от человеческого мозга, компьютерное ПО может получать обновления и исправления, а также доступно для экспериментов. Обновления могут усилить сферы, в которых человеческий мозг слаб. Например, программное обеспечение человеческого зрения совершенно, в то время как его комплексные технические возможности довольно низкосортны. Компьютеры могут сравняться со зрительным ПО человека, но также могут равноценно быть оптимизированы с инженерной точки зрения.
- Коллективные возможности. Люди сокрушают другие виды ради создания огромного коллективного разума. Начиная с появления речи и формирования больших, густонаселённых общин, совершенствуясь через изобретение письма и печати, которое ускорилось с помощью интернета, человеческий коллективный разум — это основная причина, почему мы оказались далеко впереди всех других видов. И у компьютеров это получится куда лучше, чем у нас. Любая программа может синхронизироваться через всемирную сеть искусственного интеллекта с самой собой и оперативно загружать информацию, которую сумел выучить другой компьютер. Также несколько компьютеров смогут объединять полученную ими информацию и совершенствоваться вместе, поскольку им не нужна мотивация и самозаинтересованность, как группе людей.
Для ИИ, который, вероятнее всего, достигнет уровня ОИИ, будучи запрограммированным на самосовершенствование, достижение «уровня человеческого интеллекта» не будет каким-то важным этапом — это всего лишь весомая отметка с нашей точки зрения — и он не остановится на этом уровне. И получив преимущества над нами даже на уровне ОИИ, вероятно, он только на короткое время остановится на этой ступени в гонке за суперинтеллектом.
Это может нас сильно шокировать, когда произойдёт. Причины тому, с нашей точки зрения: А) хотя интеллект разных видов животных находится на разном уровне, больше всего нас интересует понимание того, что он гораздо ниже нашего, и Б) мы принимаем самых умных людей в качестве тех, кто гораздо умнее самых глупых людей. Как-то так:
Так что пока ИИ пытается достичь нашего уровня, мы видим, что он просто становится немного умнее, как для животного. Затем, когда он становится умнее самого глупого человека на Земле — Ник Бостром использует термин «деревенский дурачок» — мы скажем: «Ой, вау, он как глупый человек. Милота!». Единственная проблема в том, что в широком спектре интеллекта все люди от деревенского дурачка до Эйнштейна находятся в очень узком промежутке, поэтому после превышения уровня деревенского дурачка и став ОИИ, он внезапно окажется умнее Эйнштейна, и мы даже не осознаем, что произошло:
И что случится... после?
Интеллектуальный взрыв
Надеюсь, вы хорошо провели это время за чтением, потому что с этого момента тема становится ненормальной и пугающей и не изменится до самого конца. Хочу остановиться здесь, чтобы напомнить вам, что каждое слово, которое я собираюсь сказать, абсолютно реально — от реальной науки и реальных прогнозов будущего из широкого спектра наиболее уважаемых мыслителей и учёных. Просто держите это в голове.
В любом случае, как я говорил выше, многие из наших способов достижения Общего Искусственного Интеллекта включают самосовершенствование ИИ. А когда он достигнет уровня ОИИ, даже те системы, которые формировались и менялись методами, которые не включают самосовершенствование, станут достаточно умными, чтобы начать этот процесс, если необходимо.
И вот куда мы в итоге придём: рекурсивное самосовершенствование. Оно работает так:
ИИ-система на определённом уровне — например, на уровне деревенского дурачка — запрограммирована на единую цель — улучшение собственного интеллекта. Когда она достигает цели, становится умнее — теперь это, наверное, уровень Эйнштейна — и продолжает работать над улучшением интеллекта, будучи разумным, как Эйнштейн, поэтому система тратит меньше времени и делает бóльшие шаги. Такие шаги делают её гораздо умнее любого человека, а их размер постоянно увеличивается. ОИИ очень быстро взлетает до уровня Искусственного Суперинтеллекта. Это и называется «Интеллектуальный взрыв», который является идеальным примером Закона ускоряющейся отдачи.
Нет единого мнения о том, как быстро мы придём к ОИИ. Сотни учёных полагают, что это произойдёт примерно к 2040 году — всего через 25 лет, что не кажется таким большим сроком, пока вы не осознаете, насколько быстро произойдёт переход от ОИИ к ИСИ. Вот, что может произойти:
Десятки лет прошло перед тем, как первая ИИ-система достигла низшего уровня общего интеллекта, но это всё-таки произошло. Компьютер способен понимать мир вокруг также хорошо, как и 4-летний ребёнок. Внезапно, спустя час после достижения этой цели, система начинает понимать теоретическую физику, включая теорию относительности и квантовую механику. Ещё через 90 минут искусственный интеллект достигает суперзначения, которое в 170 000 раз превышает уровень человеческого разума.
Суперинтеллект такой мощи — это нечто такое, что очень сложно осознать, всё равно что шмель, который пытается впихнуть в свою голову кейнсианскую модель экономики. В нашем мире «умный» — значит IQ уровня 130, а «глупый» — IQ уровня 85. У нас даже нет определения для IQ уровня 12 952.
Но мы знаем, что доминирование человека на Земле определено чётким правилом: интеллект означает власть. Это значит, что ИСИ, когда мы его создадим, будет самым могущественным существом в истории жизни на планете, а все другие существа, включая людей, будут подчинены его прихотям — и всё это может произойти в следующие несколько десятилетий.
Если наш скудный мозг сумел придумать wi-fi, то что-то в 100, 1000 или миллиард раз умнее нас сможет без проблем контролировать местоположение каждого атома в мире по своему желанию в любое время — всё, что казалось нам магией, вся мощь, которую мы приписывали высшему Богу, будут вполне реальными возможностями Искуственного Суперинтеллекта. Изобретение технологии для обращения вспять старения, излечение болезней, избавиться от голода и даже смертности, перепрограммирование погоды, чтобы защитить будущую жизнь на Земле — всё вдруг станет возможным. И также возможен внезапный конец жизни на планете. И потому, в случае реального появления ИСИ со всеми божественными возможностями, общеважный вопрос для всех нас:
Будет ли он добрым Богом?
Это тема для второй части размышлений (уже готовится для перевода).
