Профессор Калифорнийского технологического института Алексей Китаев — о путешествиях сквозь черные дыры

Можно ли с помощью черных дыр перемещаться во времени? Как научиться управлять квантовым хаосом и построить мост между параллельными Вселенными? На эти фантастические вопросы уже ищут ответы физики-теоретики. О черных дырах, которые снова в поле интереса ученых из разных областей науки, «Огонек» поговорил с профессором Калифорнийского технологического института Алексеем Китаевым.

Беседовала Елена Кудрявцева

«Огонек» в рамках совместного медиапроекта со Сколковским институтом науки и технологий продолжает публикацию цикла интервью с ведущими отечественными физиками. В № 37 за 2018 год была опубликована беседа с Владимиром Захаровым; в № 39 за 2018 год — с Ильдаром Габитовым; в № 45 за 2018 год — с Валерием Рубаковым; в № 2 за 2019 год — с Альбертом Насибулиным, в № 11 за 2019 год — с Алексеем Старобинским, в № 20 — со Львом Зелёным, в № 23 — с Михаилом Фейгельманом, в № 30 — с Александром Белавиным, в № 38 — с Валерием Рязановым, в № 47—Юрием Оганесяном.

— Алексей Юрьевич, в последнее время появилось много работ, связанных с черными дырами. Прежде чем перейти к разговору о том, с чем это связано, начнем с начала: что наука знает об этих загадочных объектах?

— Мы знаем, что черная дыра — это очень массивный, но относительно небольшой объект. У нее настолько сильное гравитационное поле, что изнутри ничто не может вырваться, даже свет. Большинство черных дыр возникает из обычных звезд, которые в конце своей жизни сильно сжимаются, и в какой-то момент наступает коллапс — выглядит это как взрыв.

— То есть масса остается, а объем исчезает?

— Да, при этом происходит очень сложный процесс: внутренняя часть превращается в черную дыру или в нейтронную звезду, а оболочка звезды разлетается с большой скоростью. После этого взрыва остается черная дыра с массой в несколько раз больше массы Солнца. Черные дыры возникают и в центрах галактик. Например, в центре нашей галактики есть черная дыра, которая в три миллиона раз тяжелее Солнца.

— А у черных дыр есть имена? Как эта, например, называется?

— Стрелец A*. По меркам сверхмассивных черных дыр, Стрелец А* — спокойный объект. Но в мае прошлого года он вдруг «ожил»: на пару часов интенсивность излучения в инфракрасном диапазоне выросла в 75 раз — это, кстати, крупнейшее подобное событие за все время наблюдений. Затем активность вернулась на прежний уровень. А в другой галактике есть черная дыра, масса которой в несколько миллиардов раз больше массы Солнца. Именно ее в прошлом году удалось запечатлеть на фото.

— Это первое в истории фото сверхмассивной черной дыры в галактике М87 журнал Science назвал главным научным прорывом года.

— На самом деле это не обычное фото. Опубликованная фотография была синтезирована коллаборацией Event Horizon Telescope из изображений со многих радиотелескопов. На ней видно излучение от горячего газа вокруг черной дыры, а в середине изображения — как будто дырка. Это, по сути, тень черной дыры. Так как сама она поглощает свет, мы ее не видим. Более того, когда свет проходит мимо черной дыры, он искривляется. Поэтому размер этой «дырки» на фотографии больше, чем размер черной дыры на самом деле.

— Когда черные дыры попали в поле интереса ученых?

— Черные дыры — одни из самых загадочных объектов Вселенной. Они интересны тем, что являются источниками очень мощного гравитационного излучения. Например, когда две черные дыры сливаются в одну, возникает всплеск гравитационных волн, который, что замечательно, мы можем обнаружить на Земле.

Вообще, идея о том, что свет не сможет вырваться из очень большой звезды, давняя. Об этом более 200 лет назад упоминал Пьер Лаплас. Но по-настоящему она обрела жизнь после того, как в 1915-м Эйнштейн получил уравнения для гравитационного поля, а Карл Шварцшильд нашел для них решение. Надо сказать, что понять и осмыслить это решение было сложно, поэтому понадобилась работа других физиков, чтобы его правильно интерпретировать.

— Что из него следовало?

— В частности, что предметы, попавшие в черную дыру, не возвращаются обратно. Они пересекают горизонт событий (точнее, так называемый горизонт будущего, из-за которого можно вернуться, только двигаясь назад во времени). В принципе, предметы могут вылетать из другой области пространства-времени внутри черной дыры, из-за «горизонта прошлого». Однако непонятно, откуда они там возьмутся.

— Не так давно гравитационные волны, о которых тогда же писал Эйнштейн, были открыты физически.

— Это произошло почти спустя сто лет после того, как он открыл их теоретически. В первый раз гравитационные волны от слияния двух черных дыр были открыты в 2015-м. По сути, такие волны — это колебания пространства-времени. Но так как пространство само очень жесткое, эти колебания очень слабые.

— Большинство людей представляют себе пространство как пустоту, в которой что-то происходит, нечто типа пустого склада. А как представить жесткое пространство?

— Это довольно сложно. Нам, например, тяжело представить, что сумма углов треугольника может отличаться от 180 градусов. Для этого нужно, чтобы пространство деформировалось, искривлялось, шло рябью и так далее. Едущий по улице автомобиль или колышущиеся занавески гонят гравитационную волну и искривляют пространство. Только очень слабо. Ни один детектор не сможет это зафиксировать, потому что, повторюсь, на самом деле пространство очень жесткое.

Замести следы

— Так как пощупать черные дыры в центре галактик невозможно и даже наблюдать за ними можно с большой долей условности — лишь по изменениям среды вокруг них, то основной инструмент их изучения, если я правильно поняла,— теория. И сегодня эта область, судя по числу публикаций, стала важной частью мировой науки. Почему именно сейчас?

— Это связано с тем, что черные дыры порождают много необычных явлений, которые вполне можно изучить теоретически. В каком-то смысле создание подобных теорий — игра ума, но при этом такая игра существенно продвигает наше представление о глобальных законах мироздания, в частности, дает надежду решить одну из основных открытых проблем фундаментальной физики: как совместить квантовую механику и гравитацию (речь о создании так называемой теории всего, о чем ученые мечтают десятки лет.— «О»).

— Можете назвать лидеров современной теоретической физики, о которых всем стоит знать?

— Несомненный лидер сегодня — Эдвард Виттен. Он известен работами в теории струн, теории поля и ряде областей математики, в частности, теории узлов (признан физическим сообществом как один из самых талантливых живущих физиков, преемник Эйнштейна.— «О»). Другой безусловный лидер теоретической физики — Хуан Малдасена, профессор физики из Института передовых исследований в Принстоне. Он придумал соответствие между теориями в размерностях N и N+1, что связано с идеей квантовой голографии, о которой мы поговорим позже.

— В чем смысл вашей нынешней работы?

— Настоящие черные дыры существуют в космосе. Моя же работа теоретическая, и она в каком-то смысле про игрушечную черную дыру. То есть мы строим математическую модель и рассматриваем теоретические вопросы, игнорируя некоторые свойства настоящего мира.

Один из интересных вопросов, волнующих сегодня ученых в той области науки, которой я занимаюсь, звучит так: что будет с информацией, которая исчезла в черной дыре? Дело в том, что, согласно классической теории, если информация (говоря упрощенно, речь о любом, в том числе материальном, объекте.— «О») попадет в черную дыру, то она бесследно исчезнет. Однако это противоречит принципам квантовой механики. Физики пытаются разобраться с этим парадоксом около 40 лет.

— Так куда же девается информация?

— Давайте для начала представим, что будет с информацией, если мы просто сожжем флешку. Сможем ли мы ее после этого каким-то образом извлечь? Теоретически сможем, так как микроскопические законы физики обратимы и информация останется закодирована в остатках от флешки и в излучении, которое получилось при сгорании. То есть практически восстановить ее нельзя, а теоретически можно — проследив за каждым атомом и заставив его двигаться в обратную сторону. В будущем, возможно, мы сможем это сделать (не для флешки, а для объекта поменьше) с помощью квантового компьютера, который может моделировать любой физический процесс. Если все операции будут точными, мы сможем прокрутить весь процесс назад внутри компьютера и восстановить информацию.

А что будет, если флешку сбросить в черную дыру? Теоретически мы можем проследить за частицами, пока они не спрячутся за горизонт событий черной дыры. Напомню, это такая поверхность, из-за которой нельзя вернуться. Пересекая этот горизонт, мы движемся в будущее, а, чтобы вернуться, нам нужно будет двигаться в прошлое. После того как частица пересекла горизонт, она через какое-то время попадает в сингулярность — область, где известные нам законы физики не работают. В итоге информация оказывается запертой внутри черной дыры и недоступной для внешнего наблюдателя.

— Заперта, но не исчезла же!

— Это еще не все. Примерно 40 лет назад Стивен Хокинг сделал поразительное открытие, обозначив сразу два свойства черных дыр. Первое — он открыл энтропию (энтропия — разрушение, нарастание хаоса — «О») черных дыр, подтвердив догадку Якова Бекенштейна. Второе — доказал, что черные дыры не только поглощают, как считалось до сих пор, но и излучают. Теперь это тепловое излучение черных дыр называется хокинговским. Из-за него черные дыры теряют массу — «испаряются» и в конце концов погибают вместе со спрятанной внутри информацией. Информационный парадокс черных дыр впервые осознали еще в середине 1970-х. Помимо Хокинга им занимались такие известные ученые, как Кип Торн (ведущий мировой эксперт по общей теории относительности, один из главных разработчиков детектора гравитационных волн LIGO, также известен как научный консультант фильма «Интерстеллар».— «О») и Джон Прескилл (ведущий специалист в области квантовых вычислений, в 2004-м выиграл пари века у Хокинга: Пресскил утверждал, что излучение черной дыры несет информацию, просто мы не можем ее расшифровать, а Хокинг — что информация, попав в черную дыру, навсегда пропадает в параллельной Вселенной.— «О»).

Первое объяснение того, как информация может выйти из черной дыры, придумал в конце 1980-х голландский ученый, нобелевский лауреат Герард Хоофт. Он заметил, что предметы, падающие в черную дыру, создают гравитационное возмущение вблизи горизонта прошлого, которое влияет на последующее излучение.

— То есть на нем появляется отпечаток из информации? Незадолго до своей кончины Стивен Хокинг как раз говорил, что решил информационный парадокс черной дыры: информация не пропадает внутри, а остается снаружи. Это даже породило странные околорелигиозные разговоры о том, что после разрушения любого предмета его «суть» остается записанной во Вселенной в виде голограммы.

— Про это я не знаю. Говоря об информации, тут ключевую идею высказал Хоофт. К сожалению, он претендовал на полное решение загадки черных дыр, что не способствовало пониманию. На самом деле его работа — это только одна дверь, которую нужно открыть на пути к решению. В последние годы было сделано еще несколько шагов, включая мою работу. Она имеет отношение к идеям Хоофта и еще к таким вещам, как эффект бабочки в квантовом хаосе. А буквально прошлой осенью стало понятно, где именно классическая теория (предсказывающая потерю информации) ошибается и как ее подправить, добавив совсем немножко квантовой механики.

Бабочка и квант

— Эффект бабочки в квантовом хаосе — звучит прекрасно. А что это такое?

— Ну начать придется издалека. Что такое хаос? Хаос — это когда происходит что-то сложное и непредсказуемое. Одно из свойств хаоса в том, что небольшое изменение в текущих событиях порождает большие изменения в будущем. Ученые исследовали этот вопрос в 1950-е. В итоге сегодня у нас есть два описания так называемого эффекта бабочки. Один в научной литературе связан с аттрактором (так называют состояние динамической системы, к которому она стремится.— «О») Лоренца. Напомню, что Эдвард Лоренц, родоначальник популярной сегодня теории хаоса, стал, по сути, основателем современных прогнозов в метеорологии, исследовал конкретную хаотическую систему и написал статью «Предсказуемость: может ли взмах крыла бабочки в Бразилии вызвать торнадо в Техасе?». Так и появился термин «эффект бабочки», известный сегодня всему миру. Взмах крыла бабочки в данном контексте должен восприниматься как маленькое изменение начальных условий, способное как вызвать, так и, предположим, погасить торнадо. Второе описание эффекта бабочки мы все знаем по литературному произведению Брэдбери. Собственно, в чем состоит интерес ученых? Они задались вопросом, как описать хаос математически, как его измерить и просчитать.

К сожалению, прямое наблюдение хаоса очень затруднительно, потому что существует всего два способа отличить истинный хаос от кажущейся сложности и непонимания закономерностей. Первый -– создать вторую копию мира и посмотреть, что там будет без какого-либо воздействия. Действительно, если мы возьмем два идентичных мира, в одном из которых бабочка взмахнет крылом, а в другом нет, то события в истории этих двух миров будут расходиться. Ученые делают подобные работы при помощи математических моделей. Другой способ — прокрутить, как мы говорили, все процессы назад. В принципе, это возможно, поскольку законы физики, как обсуждалось раньше, на микроскопическом уровне обратимы. Но мы пойдем дальше и будем сегодня говорить не просто о хаосе, а о квантовом хаосе, который имеет непосредственное отношение к черным дырам.

— Что это такое?

— Идея квантового хаоса впервые появилась в работе Анатолия Ларкина и Юрия Овчинникова 50 лет назад. Вряд ли они тогда думали о таких нереализуемых вещах, как возможность прокрутить время назад. Они решали конкретную физическую задачу про сверхпроводимость. Но в формулах обнаружилось очень странное явление, и они попытались в нем разобраться.

Одна из формул содержала «коррелятор, неупорядоченный по времени». Ларкин и Овчинников поняли, что эта математическая величина характеризует хаос.

По сути, она описывает процесс путешествия по времени назад.

— То есть теоретически это возможно?

— Да. Обычно, когда мы вычисляем что-то про реальный физический мир, то движемся по времени вперед и вычисляем вероятность некоторого события в будущем. А здесь нужно двигаться вперед, потом назад во времени, а потом опять вперед. Долгое время эта область не развивалась, но совсем недавно, буквально несколько лет назад, ей опять заинтересовались, и сегодня это важная часть современной науки.

— С чем связано возрождение интереса?

— Отчасти с черными дырами. В частности, физики-теоретики Стивен Шенкер и Дуглас Стэнфорд написали работу про эффект бабочки в черных дырах, с которых мы начали разговор. Черные дыры на квантовом уровне проявляют хаотичное поведение, подобное эффекту бабочки. Роль бабочки здесь выполняет любой предмет, который падает в черную дыру. Причем даже сброс одной частицы может серьезно повлиять на будущие события. Последствия маленького изменения в черной дыре возрастают настолько быстро, насколько это вообще физически возможно. Этот рост последствий делает черные дыры самой хаотичной системой, которая может существовать в природе.

— Вы создали математическую модель SYK (модель Сачдева — Йе — Китаева), которая как раз позволяет «прокручивать» время в черной дыре вперед и назад и смотреть, что будет, если на нее будут воздействовать разные объекты?

— Да, чтобы понять, как тот или иной объект повлиял на черную дыру, нужно провести мысленный эксперимент, где мы в какой-то момент прокручиваем время назад, а потом что-то меняем и прокручиваем опять вперед, как в рассказе Брэдбери. Этот процесс математически как раз описывается корреляторами, неупорядоченными по времени. Звучит довольно искусственно, даже для теоретика, но как иначе узнать что-то о горизонте событий, оставаясь снаружи? В какой-то момент я понял, что неупорядоченные по времени корреляторы нужно изучать: их можно определить для разных систем, но в черных дырах они особенные. Потом я нашел подходящую модель, в которой эти корреляторы отвечают максимально быстрому росту возмущений — в точности как в черных дырах. На основе моей модели Малдасена и Чи придумали новую модель. В ней, например, можно моделировать такое интересное явление, как телепортация.

— А кротовые норы, позволяющие перемещаться из одной Вселенной в другую, согласно современным представлениям, существуют?

— Теоретически да. Если возвращаться к классическим черным дырам, есть такое понятие, как кротовая нора, или Мост Эйнштейна — Розена. Это когда за черной дырой, за ее горизонтом событий есть другая черная дыра, которая может находиться в другой Вселенной, но при этом они каким-то образом связаны. То есть пространство и время между ними общее. Правда, из одной Вселенной попасть в другую все равно нельзя. Пространство и время устроены так, что наблюдатель из каждой Вселенной может попасть внутрь черной дыры. Время жизни внутри черной дыры ограничено, потому что любой объект рано или поздно ударяется в сингулярность. Если черная дыра очень большая, такая, что до сингулярности лететь сто лет, это не страшно.

Находясь за горизонтом, можно увидеть другую Вселенную и даже встретиться с путешественником оттуда, но это тупик. Недавно появились модели, в которых по этому мостику все-таки можно пройти.

Есть очень узкая область пространства-времени, которая реально соединяет один мир с другим.

— Над чем вы собираетесь работать в ближайшее время?

— В рамках модели SYK я надеялся получить ответы на вопросы, связанные с квантовой голографией. Согласно идее Хоофта и более конкретной теории Малдасены, внутреннее состояние черной дыры закодировано на ее поверхности. Хотелось бы описать эту кодировку в достаточно простой модели. Модель SYK для этого не подошла, потому что она слишком простая. Теперь я хочу создать новую модель.

Физика на завтра

— Вы — автор ряда идей, изменивших современную физику. Скажите честно: работа физика-теоретика похожа на озарение или это кропотливый труд с формулами?

— Безусловно, элемент озарения есть. Сначала ты пытаешься разобраться в интересном вопросе интуитивно. Но так как интуиция любого человека основана на опыте, на знаниях, то в итоге ее уже не хватает, и тогда уже нужно догадку проверять вычислениями, формулировать задачу математически, вычислять и смотреть, что получится. На этом этапе, когда нужно возиться с формулами и по многу раз перепроверять решения, это не так интересно. Но когда все сошлось, появляется уверенность и новая интуиция, и тогда можно двигаться дальше.

— Ваша модель SYK произвела настоящий фурор в научном мире — сегодня ее развивают самые знаменитые физики, те же Виттен и Малдасена. Более того, некоторые именно ее прочат на звание той самой «модели всего», которую так ищут физики.

— Я бы не сказал, что это «теория всего». Она отвечает на конкретные вопросы: когда я ее создавал, то хотел получить ответы на некоторые вопросы, касающиеся черной дыры. Более полная и подробная модель в этом отношении — теория струн, но одновременно она очень сложная, и делать в ее рамках какие-то вычисления очень тяжело. Вот я и задумал подобрать простую рабочую модель.

— Какие задачи вдохновляют сейчас физиков-теоретиков? Что их интересует помимо сгинувшей в черной дыре информации?

— Основная задача — понять квантовую гравитацию. Если удастся, есть надежда, что одновременно решатся и другие задачи. В частности, появится шанс понять, откуда взялась Вселенная, потому что существующие законы физики позволяют проследить развитие Вселенной назад во времени до определенного мига — до Большого взрыва, а дальше возникает неопределенность, и мы не можем узнать, что было в начале.

— Давайте мы тоже вернемся обратно во времени. Вы сами когда увлеклись наукой?

— Интерес к физике у меня с детства, спасибо родителям. Они работали в Воронежском университете в области электроники и радиотехники и, когда мне было лет семь, несколько раз брали меня в свою лабораторию, давали поиграть с осциллографом. На его экране возникали разные красивые фигуры, мне было очень интересно разобраться, что это означает… Затем учился в хорошей математической школе в Воронеже, потом в МФТИ. Сначала я пошел на прикладную математику, но понял, что мне эта тема не очень интересна. Сдав экзамен, поступил в теоргруппу. Наша база была в Черноголовке, в знаменитом Институте теоретической физики имени Ландау. Преподаватели были замечательные: мой руководитель Валерий Леонидович Покровский (сейчас работает в Техасе), Лев Петрович Горьков (крупнейший специалист по сверхпроводимости, умер в США в 2016-м.— «О»), Герасим Матвеевич Элиашберг, Дима (Давид Ефраимович) Хмельницкий и Исаак Маркович Халатников. Я всем им очень благодарен. В середине 1980-х Институт Ландау был одним из лучших мест в мире по теоретической физике. Возможно, самым лучшим. С каким бы вопросом ты ни сталкивался, всегда можно было найти человека, который разбирался в этой области.

— Александр Белавин в интервью «Огоньку» (см. № 30 за 2019 год) рассказывал про семинары в Институте Ландау, где летом под соснами могли что-либо обсуждать с утра до вечера, чем сильно удивляли, к примеру, коллег из США. А вы сами не скучаете по такому подходу в Америке?

— Ну это традиция, связанная со школой Ландау: она порождала людей с очень широким образованием в физике, поэтому они понимали друг друга, даже если речь шла о другой области. Потом все стало меняться. Во-первых, физика стала очень большой, и такого универсального подхода больше не будет. Во-вторых, в 1990-е сами люди разъехались. Сейчас в США, в Калтехе, где я работаю, таких семинаров нет. Есть общие коллоквиумы, где люди доступно рассказывают о своей теме большой аудитории физиков. Есть семинары для специалистов в определенной области, но и там обсуждение нечасто затягивается на несколько часов.

— Вы перебрались в США на общей волне, проработав лет десять лет в России. Сложно было менять привычки?

— В отличие от многих моих коллег, я вначале не искал постоянной работы за границей. Мне повезло, что появилась возможность поработать несколько месяцев в Израиле и во Франции. Это было хорошо и в материальном плане, и в плане знакомства с учеными. В итоге в Америку я попал в 1998-м, когда у меня уже были известные работы по квантовым вычислениям. Первый год работал в Калтехе, после этого два года в Майкрософт, тоже в области квантовых вычислений, затем вернулся в Калтех.

— В свое время вы выдвинули революционную концепцию «топологического» квантового компьютера. В Майкрософт именно под реализацию вашей идеи была создала лаборатория?

— В Майкрософт я начал заниматься квантовыми вычислениями вместе с Майклом Фридманом — известным топологом, лауреатом премии Филдса (аналог Нобелевской премии для математиков.— «О»). Несколько лет спустя он создал свою лабораторию (филиал Майкрософт) в Санта-Барбаре, которая называется Station Q. Я же после работы в Майкрософт поехал в Калтех по приглашению выдающегося физика Джона Прескилла, а потом получил постоянную позицию. Калтех — это тоже прекрасное место: здесь собрано много замечательных людей, работающих в самых разных областях. Так что я, конечно, очень доволен тем, как сложилась моя судьба.

— Вы придумали, как создать квантовый компьютер на новых принципах, и многие физики считают, что именно за этим подходом будущее. На каком этапе эта работа?

— Речь идет о создании квантового компьютера на основе так называемых майорановских фермионов. Эти частицы впервые описал в 1937 году итальянский физик Этторе Майорана. Уникальны они тем, что частица одновременно является своей античастицей. В свое время я предположил, что при определенных условиях на концах сверхпроводящего провода могут возникать так называемые майорановские моды. Это не частицы, поскольку они никуда не движутся, но математическое описание у них похожее. Их главное достоинство — устойчивость к различным возмущениям, поэтому майорановские моды можно использовать в качестве кубитов — квантовых битов, главных элементов квантовых компьютеров. В 2012-м группа под руководством Лео Коувенховена из Дельфтского технического университета (Нидерланды.— «О») впервые получила такие майорановские квазичастицы в эксперименте с нитью из антимонида индия. Сейчас над этим работают две лаборатории — в Дельфте и в Копенгагене. В значительной степени эти исследования финансирует Майкрософт.

— Изменилась ли ваша жизнь после того, как вы получили премию Юрия Мильнера Fundamental Physics Prizes размером в 3 млн долларов?

— Конечно, это укрепило финансовое положение, придало уверенности. Также это определенная известность, поступают новые предложения о работе — думаю, премия сыграла в этом свою роль.

— Верите ли вы в прогресс? Человечество способно двигаться от худшего к лучшему?

— Конечно, сейчас люди живут лучше, чем сто лет назад, так что прогресс очевиден. Но параллельно происходят вещи нехорошие и опасные, и я не берусь сказать, что пересилит в итоге. На мой взгляд, есть две существенные угрозы, к которым человечество должно подготовиться, чтобы их пережить. Первая связана с исчерпанием природных ресурсов, вторая, еще более существенная,— с искусственным интеллектом.

— Стивен Хокинг предостерегал, что повсеместное внедрение искусственного интеллекта приведет к массовой деградации. Вы это имеете в виду?

— Думаю, многие люди останутся без работы. Надеюсь, физики будут не первыми, но очередь дойдет и до нас. Искусственный интеллект действительно может эффективнее человека работать в огромном количестве направлений. Это серьезный вызов, который потребует перестройки всей структуры общества. Глобальная безработица приведет к тому, что нам придется придумывать какие-то занятия искусственно. В целом же опасная ситуация возникнет, когда человечество утратит контроль. Поначалу все важные решения будут принимать люди. Но потом компьютеры станут настолько умнее, что мы просто перестанем понимать, что происходит. Фактически люди окажутся на второстепенных ролях, что-то вроде домашних животных, пусть даже и любимых своими хозяевами.

Другая опасность для цивилизации — неважно, будет ли это цивилизация людей или цивилизация роботов,— связана с радикальным изменением устоев. Миллионы лет живые существа в том или ином виде борются за выживание, люди стремятся жить лучше, и этот механизм хорошо работает. А вот какие цели будет преследовать искусственный интеллект и будет ли новая система устойчивой — непонятно. В конечном счете будет то, что будет. Мы не можем спланировать или предсказать далекое будущее или даже сказать, что хорошо, а что нет. На ближайшую перспективу хотелось бы, чтобы человечество избежало глупых ошибок.