Искусственный интеллект как утопия современности

Утопии оперируют постоянно повторяющимся набором идей, сам этот тип мышления определяется по наличию утопических стереотипов, которые могут кочевать из философии в литературу, в искусство, в кино, в политику — вплоть до анализа сновидений. Герой заснул, проснулся в будущем, а там опять то же самое: ответ на вопрос, как достичь добровольного единства людей во имя высшего блага. Данные прежде ответы цели не достигли, единство не становилось добровольным, понимание общего блага упорно разнилось. Однако на наших глазах возникает новая модель идеального общества, которая выводит стереотипичность утопического мышления на новый уровень, чем резко повышает его шансы на реализацию. Как это может выглядеть, объясняет Григорий Ревзин.

Как известно, сегодняшнее состояние утопического сознания нельзя признать удовлетворительным. Те, кому положено, не только не выдвигают утопических проектов, но и вообще не имеют внятной картины будущего, а те, кому не положено, выдвигают, но на уровне розовых соплей — с гуманистическим или людоедским уклоном. Разумеется, это следует решительно осудить, но почему возникло такое утопическое нестроение?

Исторически утопии отвечают на важные вопросы — перечислю их для памяти. Главный вопрос уже назван: как достичь единства в стремлении к общему благу? Для этого необходимо прежде всего, чтобы люди стремились к этому единству. Поэтому важнейшей частью большинства утопий является воспитание. На сегодняшний день в России возлагаются большие надежды на возрождение пионерской организации, и это замечательно. Но все предшествующие проекты достижения единства пока провалились, и, больше того, в процессе эволюции во всех обществах развился самый прискорбный индивидуализм.

Для достижения единства утопии предлагали рецепты устранения противоречий между людьми, выделяя три главных их источника — собственность, секс и власть. В собственности предлагалось равенство, в сексе — внешний контроль для целей евгеники, во власти — правление тех, кто к этому предрасположен, во благо всех. Пока не получается.

Равенство собственности упирается в вопрос о том, хватит ли на всех того, что будем делить, чтобы этого стало достаточно и даже больше; как правило, предлагались проекты устранения конкуренции, но там, где ее устраняли, ничего не хватало ни для кого. О сексе говорить нечего, это дело интимное: контроль тут пока неэффективен и проблемы остаются. Пока никак не удается найти способ выделить тех, кто более всех предрасположен к правлению во благо. Больше того, традиционные способы, которыми люди решали эту проблему,— правление старых и мудрых, кому не нужны ни власть, ни секс, ни богатства,— совершенно утеряли свою эффективность: в результате программ сохранения здоровья развились старческие властолюбие, похотливость и жадность — и вместо мудрости мы получили старческую придурковатость. Утопии пытались решить проблемы предназначения человека и более широко, вычисляя и воспитывая тех, кто лучше приспособлен к научной, художественной, производственной, сельскохозяйственной или любой другой деятельности,— не вышло ничего. На вопрос о смысле человеческой жизни внятного ответа мы так и не имеем. Не ясно также, что такое высшее благо, ради которого существуют общество и государство (впрочем, важно заметить, что многие считают, что в последнее время в России они коренным образом приблизились к ответу на этот вопрос).

Утопии стереотипны, но вряд ли именно это их свойство привело к истощению утопического сознания. Вопросы-то остались.

«Представьте себе систему <…>, которая мониторит ваш банковский счет и ваш пульс, ваш сахар и ваши сексуальные приключения. Разумеется, эта система будет знать вас гораздо лучше, чем вы сами знаете себя. Самообманы и самообольщения, удерживающие людей в плену дурных связей, нелюбимых профессий и вредных привычек, не введут Google в заблуждение <…> "Послушай, Google,— скажет молодая девушка,— за мной ухаживают Джон и Пол. Я люблю обоих, но по-разному, и мне так трудно определиться". И Google ответит: "Я знаю тебя с момента твоего рождения. Я читал все твои имейлы, записывал все твои телефонные разговоры и знаю твои любимые фильмы, твою ДНК и полную биометрическую историю твоего сердца. <…> И конечно же, Пола и Джона я знаю так же хорошо, как тебя. Полагаясь на все эти данные, на мои совершенные алгоритмы и на статистический анализ сотен миллионов проверенных десятилетиями отношений, я советую тебе выбрать Джона — с 87-процентной вероятностью он составит тебе лучшую партию"».

Это фрагмент из бестселлера Ноя Харари «Homo Deus. Краткая история будущего». Харари самого некоторые из моих друзей считают философом стереотипов, для себя я не могу решить, то ли я с этим не согласен, то ли не вижу в этом ничего плохого. Так или иначе он рисует картину такого взаимодействия человека с сетью, при котором утопические вопросы получают внятные ответы.

Нет никаких проблем с тем, чтобы выбрать людей, с наибольшей вероятностью приспособленных для власти ради общего блага, вопрос только в том, как легализовать эту киберократию. Впрочем, что в рамках открытого демократического процесса, что в рамках битвы бульдогов под ковром сеть легко подберет людей, которые будут всей душой сочувствовать тому или иному кандидату, оценит эффективность правления каждого из кандидатов и выдаст сравнительно оптимальное решение для блага всех. Проблемы с сексом, как мы уже видели, решаются легко — Пол сейчас в пролете, но и для него ИИ кого-то найдет. При добавлении в алгоритм выбора критерия совместимости на уровне генов для производства правильного потомства вопросы евгеники также будут идеально разрешены. Равенство в собственности оказывается проблемой выяснения диапазона различия в доходах — сеть автоматически повысит или уменьшит ваши доходы в зависимости от выбранного ею же идеального для стабильности общества баланса. Больше того, это будет «равенство плюс», учитывающее ваши личные потребности в нем. Например, если вы захотите взять в кафе круассан с джемом, ваш банк откажется его оплачивать на том основании, что у вас диабет 2-го типа, и будет блокировать транзакцию до тех пор, пока вы не возьмете салат из руколы с киноа.

Различие между утопией и реальностью здесь будет заключаться в том, что в утопии он не станет платить за круассан, а в реальности будет нудеть, что вам это вредно, что врач вам запретил, что вы уже позавчера ели круассан, начнет жаловаться вашему врачу, опубликует круассан в фейсбуке и в итоге, сволочь, добьется своего. Особенность книги Харари в том, что он описывает будущее как настоящее, все процессы, о которых он говорит, вовсе не фантастика, они уже идут, вопрос только в масштабах внедрения. Искусственный интеллект уже есть, уже успешно действует и уже определяет массу наших решений и поступков.

То, что я скажу дальше, может быть воспринято как гуманитарная критика ИИ, и я бы очень хотел этого избежать. Искусственный интеллект — величайшее изобретение человечества, а моего собственного интеллекта совсем не хватает для того, чтобы понять, как его конструируют. Для массы областей — например, той же урбанистики, которой я занимаюсь сравнительно профессионально,— это прорывная технология.

Я думаю, можно сказать, что искусственный интеллект — это интеллект стереотипов. Он вычисляет стереотипный ответ на вопрос для некоторой группы людей, причем сейчас при общении с открытыми системами ИИ группа определяется по вопросу, который вы задали (хотя в принципе может быть любой). И если вопрос стереотипный (типа, в чем смысл жизни?), то ответ на него опирается на анализ огромной базы данных и соответственно окажется приемлемым для огромной группы людей.

Впрочем, ИИ совсем не создан для решения философских вопросов, и попытки его заставить на них ответить (достаточно многочисленные, надо сказать) больше напоминают сборник задачек по логическим играм. Тем не менее я все же побеседовал с ИИ на предмет уточнения собственных представлений о нем.

«ChatGPT (14:14:56): Привет! Я чат-бот с нейросетью ChatGPT, я работаю на модели gpt-3.5-turbo и вы можете общаться со мной <…>

Вы (14:15:33): Что такое стереотипы?

ChatGPT (14:16:01): Стереотипы — это устойчивые и обобщенные представления, которые мы имеем о людях, группах или ситуациях. Они могут быть основаны на культурных, социальных или личных предубеждениях и зачастую не отражают реальности или индивидуальных различий. Стереотипы могут быть положительными, отрицательными или нейтральными, но они вносят искажения в наше восприятие и могут привести к несправедливому обращению или дискриминации. Важно осознавать наличие стереотипов и стремиться к их преодолению, чтобы видеть каждого человека как уникальную и индивидуальную личность.

Вы (14:16:54): Не мыслишь ли ты стереотипами?

ChatGPT (14:17:13): Как чат-бот, я не способен формировать собственные мысли или иметь собственные убеждения. Моя задача — оказывать справочную помощь и предоставлять информацию на основе предоставленных мне данных. Я работаю на основе модели и использую знания, накопленные в процессе обучения. Однако я не испытываю эмоции или имею стереотипы, так как я всего лишь программный алгоритм, предназначенный для общения.

Вы (14:18:06): Ты считаешь, что нет стереотипов без эмоций?

ChatGPT (14:18:37): Стереотипы не обязательно связаны с эмоциями, хотя часто они могут вызывать эмоциональные реакции или быть основаны на них. Стереотипы часто возникают из упрощенного мышления или предвзятости, которые основаны на нашем опыте, культуре или социальном окружении…»

Мы разговаривали в таком духе еще некоторое время. По его мнению, стереотипное мышление — это такое, в котором ты убежден в истинности стереотипного суждения и испытываешь с ним эмоциональную связь, а у него такого нет, поскольку он не личность. Но при этом стереотипы могут быть и не связаны с убеждениями и с эмоциями, а вот просто быть, и как тогда, он не отвечает.

Что ж, если ему так удобнее, пожалуйста. Но главное, что это не только ему удобнее. Это чрезвычайно удобно для утопии. Утопия беременна антиутопией, потому что люди не хотят жить, как им предписывают. Они не хотят, чтобы государство контролировало их доходы, секс, профессию, устанавливало им единство и вело их к благой цели, если это не их цель. Они хотят сохранять свою свободу. Но стереотипные ответы, которые дает ИИ, вообще не имеют отношения свободе или несвободе. Это алгоритмы, которые действуют в нужном направлении независимо от эмоций и убеждений. Люди не замечают, что они переходят в идеальное общество. Они решают конкретные бытовые проблемы — какой посмотреть фильм, куда отправиться в отпуск, что изучать в колледже, какое предложение работы принять, с кем закрутить роман и вступить в брак — и принимают стереотипные для своей группы ответы как стратегии собственного поведения.

Понятно, что автор утопии в этой конструкции оказывается совершенно излишним и даже вредным. У него может быть собственная воля, с которой можно не согласиться. А ИИ — не личность, он «не способен формировать собственные мысли или иметь собственные убеждения». Его задача — «оказывать справочную помощь и предоставлять информацию на основе предоставленных ему данных». С этим невозможно спорить, как невозможно спорить с утюгом, как ему гладить. Построение идеального общества перешло в разряд чисто инженерной проблемы и решается в автоматическом режиме.

Единственное, что остается до известной степени проблемой,— это общее благо, к которому устремлено это общество, но я подозреваю, что она решается ровно так же. Мне кажется, что интернет для людей сегодня является вполне эффективной формой существования бога. Он вездесущ. Он всеведущ. Он способен принести тебе любые блага, от хлеба насущного до любви земной и небесной. Он исцеляет и неопределенно (как и положено богам) намекает на перспективы бессмертия. Он соединяет всех людей вместе. Новое единство людей оказывается новой церковью, которая живет в этом боге, добровольно следует его указаниям. Иногда — как это свойственно всем религиям — борется с ним внутри него же. Это только утверждает его могущество.

Состояние утопического мышления нельзя признать удовлетворительным, потому что утопия больше не требует мышления. Субъект высшего блага больше не способен формировать собственные мысли и не нуждается в этом — ему достаточно готовых стереотипов. Утопии сочиняли философы, потом писатели, потом политики, потом художники, а потом за дело взялись инженеры. Они создали машинку, которая строит общество в автоматическом режиме.

Подписывайтесь на канал Weekend в Telegram