Сингулярность все ближе: футуролог Рэй Курцвейл о том, как ИИ изменит человечество

Сингулярность почти 20 лет спустя

В 2005 году Рэй Курцвейл, выдающийся изобретатель и инженер из США, взял на себя роль технологического пророка и возвестил всему миру: «Сингулярность близко». Откровенно имитируя в заголовке стилистику кусков картона с надписями о скором Конце Света, он тем не менее был на редкость серьезен.

Курцвейл утверждал, что развитие информационных технологий — это самоускоряющийся процесс, так как новые поколения процессоров позволяют реализовывать на порядок более сложные вычисления, и в особенности — алгоритмы искусственного интеллекта. Но, в отличие от футурологов 1960–1970-х годов, он подошел к делу с инженерной точностью и построил график увеличения вычислительных мощностей компьютеров (спойлер: это экспонента).

После этого развитие нашей цивилизации перестанет находиться в руках одних лишь людей: с выходом подобного ИИ на сцену оно станет абсолютно непредсказуемым.

25 июня 2024 года Рэй — уже как 12 лет нанятый Google на роль директора исследований ИИ — выпустил продолжение бестселлера: «Сингулярность еще ближе».

От подобных предсказаний по-настоящему захватывает дух, но насколько они обоснованы?

Прогнозы Рэя Курцвейла: что сбылось

Если человека, как и книгу, «судят по обложке», обложка Курцвейла ослепляет: он изобрел, запатентовал и создал компании по продаже музыкальных синтезаторов, устройств распознавания речи, оптического распознавания символов (OCR), получил 21 почетную докторскую степень, а в 2002-м его имя было внесено в Национальный зал славы изобретателей США. Успех.

Как говорит о себе Рэй, он один из мастодонтов в области ИИ, занимающийся машинным познанием уже 61 год (сейчас ему 76). Однако предсказания насчет технологических изобретений, которые он щедро раздает с конца 1990-х годов, выходят за пределы ИТ и касаются крайне широкого спектра дисциплин: от генной инженерии до моделирования человеческого мозга.

Для того чтобы получить первое впечатление о прогностических способностях Курцвейла, можно выборочно рассмотреть его заявления из книг «Эра духовных машин» (1999) и «Сингулярность близко» (2005) насчет ближайших — уже прошедших — 20 лет.

• Виртуальные помощники способны выполнять множество функций, одна из которых — языковой перевод в режиме реального времени (произнесенные на иностранном языке слова переводятся в текст, который отображается в виде субтитров для носящего очки пользователя). Преимущественно сбылось.
• Трехмерные решетки нанотрубок являются доминирующим субстратом для компьютерных вычислений. Ошибочно: они остановились в стадии экспериментальных разработок.
• Традиционные компьютеры и устройства связи (настольные ПК, ноутбуки и сотовые телефоны) все еще существуют, но большинство их функций могут выполняться носимыми гаджетами. Примеры функций: чтение книг, прослушивание музыки, просмотр фильмов, игры и телеконференции. Сбылось полностью.
• На большинстве дорог установлены системы автоматизированного вождения — сети устройств мониторинга и связи, которые позволяют автомобилям с компьютерным управлением безопасно перемещаться. Неверно: Рэй сделал слишком большую ставку на принятие ИИ-управляемых автомобилей в первую очередь, чего тоже не произошло.
• Компьютеризированные часы, одежда и украшения могут постоянно следить за здоровьем владельца: они способны выявлять многие виды заболеваний и давать рекомендации по лечению. Сбылось полностью.
• С более подробным списком из 56 предсказаний можно познакомиться по ссылкам [1] [2] [3]. Общая оценка успешности — 77%.

Если с «мелкозернистым» масштабом предсказаний все более-менее понятно, на противоположном конце шкалы, где речь идет о будущем цивилизации и сознания во вселенной, визионерские суждения Курцвейла встречают больший скепсис.

Идеей Сингулярности все не ограничивается: гений-изобретатель встраивает ее в концепцию «6 Эпох Развития Разума», согласно которой слияние человеческого и компьютерного интеллектов (5-я Эпоха) приведет к, буквально, превращению всей доступной материи в наиболее оптимально организованную для вычислений среду — компьютрониум.

В книге «Сингулярность еще ближе» пророческой патетики на порядок меньше, чем в книге 2005 года, но это сделало явной другую проблему. Рецензенты на недавний опус из The New York Times и The Washington Post сходятся в том, что, предлагая тот или иной способ решения проблемы (старение тела, нехватка ресурсов и т.п), Курцвейл видит его исключительно в технологической плоскости — не в ткани социальных отношений, не в культурной или политической сфере, откуда проблема может проистекать в первую очередь.

Иными словами, для Курцвейла доказательство возможности некоторого изобретения важнее, чем анализ изменений, которыми внедрение изобретения будет сопровождаться. Как, например, изменится правовое поле в области собственности на продукты алгоритмического творчества или субъектности ИИ-агентов? Даже трансформация сознаний людей, соединяющихся с ИИ в единое целое, описывается как плавный, едва ли не естественный процесс. Рэя не без оснований можно назвать техноредукционистом:

Вопреки распространенным убеждениям, жизнь становится фундаментальным образом лучше для подавляющего большинства людей на Земле. И, что еще важнее, это не просто совпадение. Колоссальные улучшения, которые мы наблюдали в течение последних двух веков в таких областях, как грамотность и образование, санитария, продолжительность жизни, чистая энергия, бедность, насилие и демократизация, — все они обусловлены одной и той же основополагающей динамикой: информационные технологии способствуют своему собственному развитию.

Рэй Курцвейл«Сингулярность еще ближе»

«Атомная бомба для виртуального мира»

Тем не менее даже если мы не приписываем все успехи человечества ИТ-сфере, за последнее десятилетие в ней — и в области машинного обучения в частности — действительно произошли беспрецедентные прорывы, побудившие Курцвейла пересмотреть свои прогнозы в сторону ускоренного наступления Сингулярности. О ключевом содержании этих прорывов достаточно подробно рассказывают Тристан Харрис и Аза Раскин, cооснователи Центра гуманных технологий, в прошлом сами работавшие в Силиконовой долине.

По их версии, переломным в развитии ИИ стал 2017 год, когда для больших языковых моделей (LLMs, Large Language Models), работавших на искусственных нейронных сетях, была создана трансформер-архитектура.

Отвлекаясь от технических деталей: еще в начале 2010-х образование в области ИИ имело четкое дисциплинарное деление, — «машинное зрение», «генерация изображений», «распознавание речи» и тому подобное, — и достижения внутри одного домена оставались его собственными результатами.

Однако внедрение языковых моделей привело к стиранию границ. Оказалось, что совершенно разные по содержанию датасеты — биометрия, видео, фМРТ-сканы, строки кода, музыкальные фрагменты — столь же эффективно представимы в виде языка: их элементы можно сделать языковыми токенами, и тогда методы LLMs становятся применимы как к человеческой речи, так и к пению птиц или анализу кликов кашалотов. LLMs сделали результаты различных ИИ-дисциплин конвертируемыми, преобразуемыми друг в друга, что на порядки ускорило развитие всего исследовательского поля.

По мере роста числа параметров, на которых тренируется LLM, начали обнаруживаться новые свойства: у GPT (OpenAI) и у PaLM (Google) возникали способности к арифметике или… понимание вопросов-ответов на бенгальском — при том что обучение шло в основном на английском!

Не обладая сознанием в человеческом смысле, ИИ с нарастающей скоростью улучшает свои способности к построению моделей мышления других людей (ToM, Theory of Mind). В 2020-м этот навык был на уровне 3-летнего ребенка, в ноябре 2022-го — почти 9-летнего, а в мае 2024 года международная команда исследователей опубликовала в Nature Human Behavior результаты систематических ToM-тестов, по результатам которых GPT и LLaMA2 моделировали мышление других людей успешнее, чем 1907 человеческих участников. И подобные исследования только подстегивают дальнейшее инвестиции в ИИ. Цикл замыкается.

ИИ является для виртуального и символьного мира тем же, чем атомная бомба стала для мира физического.

Юваль Харарифутуролог, автор «Sapiens: краткая история человечества»

На сегодняшний день Курцвейл оказался глобально прав в том, что гонка за возможностями ИИ неостановима изнутри.

В период Холодной войны система международных договоров позволила сдерживать разработки ядерного оружия; в 1975 году собрание ведущих биотехнологов в Алисомаре (полуостров Монтерей, Калифорния) наложило 16-месячный мораторий на использование рекомбинантной ДНК, чтобы оценить этические следствия новообретенного метода.

В прошлом году было опубликовано коллективное письмо, подписанное более чем 30 тыс. экспертов по ИИ, представителями индустрии, учеными и общественными деятелями: в нем откровенно звучат тревога за будущее человечества (из-за непредвиденных последствий использования ИИ) и необходимость договоров о контроле столь радикальных технологий. Но это письмо осталось всего лишь публичным призывом, не повлекшим институциональных изменений, — проекты ограничений и регулирования, разрабатываемые в ЕС, США, России и Китае, не успевают охватывать все новые и новые области, в которых начинает применяться ИИ.

Высокоуровневые игроки вроде транснациональных ИТ-корпораций не снижают темпов развития своих ИИ областей из страха потерять конкурентное преимущество друг перед другом, особенно сейчас, когда уровни сложности данных, доступных для анализа ИИ, повышаются еженедельно.

Не имеющий самосознания, но обладающий интеллектом «конгломерат ума» может быть направлен на любую интересующую вас область. Интеллект как таковой стал ресурсом, чья ценность растет с каждой итерацией. В данный момент, несмотря на публичные заявления, нет ни одного игрока, кто был бы заинтересован в снижении скоростей разработки искусственного интеллекта.

Вычислимое Сакральное

Пунктирная линия, уходящая в будущее, поднимается в небеса и становится похожей на вертикаль в конце 2030/2040-х. Курцвейл описывает это событие как возникновение Сверхразумного ИИ, суждения и мыслительные ходы которого будет невозможно не только проверить, но даже осознать ни одному из живущих людей, просто в силу их уровня сложности.

Впрочем, нас не должно это беспокоить, ведь человечество начнет соединяться со Сверхразумным ИИ в одну распределенную когнитивную систему со множеством слоев виртуальных реальностей. Несмотря на секулярный взгляд на сущность человека, в данном прогнозе явственно проступают религиозные мотивы.

Мой биологический мозг был создан для совсем другого вида доисторической жизни и предрасположен к привычкам, которых я бы не хотел иметь. […] Я не могу перепрограммировать его, чтобы избавиться от страхов, травм и сомнений, которые, как я знаю, мешаюn мне достичь желаемого. А еще мой мозг находится в постепенно стареющем теле, которое […] биологически запрограммировано на то, чтобы в конце концов разрушить информационный паттерн, которым является Рэй Курцвейл.

Сингулярность обещает освободить всех нас от этих ограничений.

Рэй Курцвейл«Сингулярность еще ближе»

В детстве Рэй и его семья были приверженцами унитарианской церкви, согласно основоположениям которой «к истине ведут многие пути». По очереди в течение полугода Курцвейлы посещали христианские церкви, синагоги, буддистские монастыри, мечети — и следовали практикам соответствующей религии.

В более широком историческом контексте отделение церкви от государства и пуританская религиозная экзальтация (ожидание скорого Судного дня и Второго пришествия) первых колонистов в США сформировали те уникальные условия, в которых идеи Курцвейла, по сути, стали «религией Силиконовой долины»: ожидание события, которое бесповоротно изменит всю нашу жизнь, причем события вполне материального и приближаемого нашими же усилиями.

Будущее, в котором Сверхразумный ИИ возносится над миром и вбирает в себя породившее его человечество, поразительно. Если оно произойдет, это будет самым значительным достижением — а, возможно, и окончательным жестом — нашей цивилизации. Оно пробирает до глубины души, и мы должны быть счастливы самой возможности дожить до 2045 года и засвидетельствовать это событие.

Чтобы это представить, с некоторым огрублением мы можем назвать Сингулярностью точку фокуса, в которой сходятся световые лучи, — поиск такой точки знаком всем, кто пытался выжигать в детстве с помощью лупы.

Сингулярность Курцвейла — это такой сценарий будущего, в котором различные ветви исследований ИИ, нанотехнологии, нейроинтерфейсы и многие другие технологии сошлись максимальным образом, высвобождая весь свой потенциал и воспламеняя реальность. Но, если они не сошлись в одну точку, сами световые лучи все еще будут присутствовать и накладываться друг на друга — тогда перед нами точка расфокуса, сложная геометрия, в оптике называемая каустикой.

Если промежуточные посылки — касательно самоусиления развития информационных технологий — верны, но неверна глобальная (сверх-ИИ не порождает разум и остается «слабым ИИ» в философском смысле, сверхразвитой программой Т9), 20 лет спустя мы окажемся в мире, насквозь пронизанном интеллектуальными агентами. «Интернет вещей» устареет, и мы будем жить в «Интернете всего»: в поверхностях материалов, мебели, на вашем теле, внутри тела, в сетях, связывающих города, и даже в местной флоре и фауне — такое видение развития компьютерных технологий неспроста называют «вездесущим интеллектом» (Pervasive intelligence).

Эта наполненность вычислениями столь густа, что позволит виртуальной среде смешиваться с реальной, а нашему вниманию — непрерывно перемещаться между ними. Влияние даже «слабых» сверхмощных ИИ на наши мыслительные привычки и повседневную жизнь окажется кардинальным.

В каком бы из вариантов будущего мы ни оказались, оно стоит того, чтобы дождаться.