«Нейросети — это современная алхимия»
Философ Михаил Куртов о связи нейросетевого искусства с сюрреализмом
В октябре на фестивале «Послание к человеку» впервые прошла лаборатория нейросетевого фильма «Киберглаз». В ее работе принял участие теоретик медиа и философ Михаил Куртов. О связи нейросетевого искусства с сюрреализмом он рассказал Константину Шавловскому.
2024
Фото: из личного архива Михаила Куртова
2024
Фото: из личного архива Михаила Куртова
Когда мы видим нейросетевое искусство, у нас часто возникает желание атрибутировать его как сюрреалистическое. Откуда возникает этот эффект?
Я специально перед нашим разговором перечитал «Манифест сюрреализма» Андре Бретона и определил для себя три пункта, объясняющих, почему в нашем культурном сознании эффект от сюрреалистических произведений и от того, что производят нейросети, совпадает. Но для начала хорошо бы вспомнить, чем вообще был сюрреализм. По сути, он был поздней, вторичной реакцией на Просвещение, а первым контр-Просвещением был романтизм: неслучайно Бретон в своем манифесте вспоминает про романтиков. А что такое Просвещение? Сам этот термин указывает на определенную оптику знания: согласно просветителям, знание должно быть ясным и отчетливым. Тогда как знание, предшествовавшее Просвещению, объявлялось ими темным и смутным — средневековым «мракобесием». На это требование просветителей в конце XVIII века и последовал ответ, который мы знаем как романтизм,— как попытка возвращения к знанию «темному». Противоположностью «просвещения» является затемнение, какая-то жажда темноты, желание, чтобы мир не был слишком ясным и отчетливым, чтобы в нем оставались какие-то темноты. Мы можем истолковать это как желание чуда, тягу к чудесному, то есть к тому, что не поддается рациональному объяснению. Намерение сюрреализма также заключалось, как пишет Бретон в своем манифесте, в том, чтобы покончить с ненавистью к чудесному. И такой темнотой для сюрреализма, когда он был еще в смычке с ранним психоанализом, становится сновидение. Которое до конца ведь не прояснишь: в сновидении есть какая-то неустранимая темнота. И точно такая же темнота есть и в работе нейросетей. Я говорю прежде всего о пресловутой проблеме «черного ящика». Этим термином описывают невозможность понять, как обученная нейросеть в конечном счете устанавливает соответствие между входными данными и выходными, например между графическим образом черепахи и словом «черепаха». Как и в сновидении, внутри самой нейросети есть какая-то неустранимая темнота. Мы понимаем, что она проходит огромный путь, чтобы отличить, допустим, черепаху от газонокосилки, опираясь на миллиарды каких-то признаков. Но как именно она проходит этот путь, можно только догадываться, потому что человеческий разум не способен объять такое количество данных. Мы можем только почти что вслепую изменять параметры работы нейросети, пока не получим нужный нам результат. Это похоже на работу не ученого-просветителя, а ренессансного алхимика, который, руководствуясь наполовину научными, а наполовину магическими знаниями, пытается превращать одни элементы в другие. Собственно, нейросети — это и есть современная алхимия, повторение алхимии на исторически новом, цифровом материале. И это не просто какая-то метафора: речь о структурно том же самом явлении. Еще Шпенглер в «Закате Европы» подробно рассмотрел совпадение совершенно различных явлений в разных исторических эпохах.
Но в этом как будто бы заключен парадокс: нейросети же появились вследствие развития технического прогресса, то есть научного знания в привычном нам смысле слова, а в итоге мы говорим о каком-то «темном» знании и чуть ли не техномагии.
В том-то и дело, что в современном мире господствует определенная идеология, представленная оптикой ясного и отчетливого знания, собственно, оптикой Просвещения. А в ренессансной оптике, которая ей предшествовала, были и другие комбинации. Ренессансное знание могло быть темным и отчетливым или ясным и смутным. Таково астрологическое и алхимическое знание, которое следует отличать от магии. Магия — это часто знание темное и смутное, тогда как в той же астрологии, как бы она ни была темна, есть минимум отчетливости, а именно — расчет движения небесных тел. Сегодняшняя наука сама себе противоречит: исповедуя просветительскую идеологию ясности и отчетливости, она в то же время занимается порой вещами довольно темными и смутными, причем отказывается в этом сознаваться. Это началось уже с открытий в квантовой физике и продолжилось теми же нейросетями. Там и там используется статистический аппарат — то есть через случайность, через случай в научное знание закралась темнота. Специалисты по нейросетям, кстати, вполне отдают себе отчет в том, что они занимаются совсем не тем, чем обычные программисты. У них есть такой шаманский вайб, и они же сами себя так иронично и аттестуют. Науки в строгом смысле там никакой нет: они просто «химичат», меняя параметры нейросети, обрабатывая входные данные и так далее. Разумеется, это приносит какой-то результат. Но и астрология приносила определенные результаты. Есть, скажем, современные исследования об использовании элективной астрологии в ренессансной Италии — выбора оптимального момента для того или иного действия по звездам. Не говорю уже о том, что шаманам удавалось изменять погоду — вызывать дождь без каких-либо химических веществ, менять направление ветра,— что современной науке и не снилось, об этом тоже есть много антропологических данных. Короче говоря, сам факт того, что у нас есть результаты функционирования какой-то технологии, еще не говорит о том, что мы понимаем, как эта технология работает.
Фото: лаборатория «Киберглаз»
Фото: лаборатория «Киберглаз»
Фото: лаборатория «Киберглаз»
Фото: лаборатория «Киберглаз»
Фото: лаборатория «Киберглаз»
Фото: лаборатория «Киберглаз»
Фото: лаборатория «Киберглаз»
Давай вернемся к твоим пунктам схожести сюрреализма и нейросетевого искусства. Про темноту поняли, а что еще?
Да, первый пункт сходства — в этой темноте и жажде чудесного. Нейросети ведь тоже зачастую производят впечатление какого-то волшебства. Вторым пунктом их сходства является текучесть форм, которая особенно заметна в работе графических нейросетей. Когда мы с куратором лаборатории «Киберглаз» режиссером Михаилом Железниковым обсуждали итоговое кино, которое у них получилось, он заметил, что отличительной особенностью этого фильма является морфинг, то есть непрерывная трансформация одного образа в другой. В этом нейрофильме нет привычных монтажных склеек, когда мы понимаем, что какой-то эпизод закончился и начался другой, а есть постоянное перетекание одного в другое. Такая же текучесть свойственна и нашим снам — достаточно во сне отвлечься, как мы уже оказываемся в другом сюжете. И это то, что объединяет сновидение и сюрреалистическую оптику с работой нейросетей,— отсутствие стабильных форм. Недостаток стабильных форм — то же, что недостаток отчетливости, о котором я говорил. Это когда вещи четко не отделены друг от друга. Все течет, как на картинах Дали или Магритта. Наиболее явно это было видно по работе одной из первых популярных графических нейросетей, DeepDream, где образы впечатывались один в другой, перетекали друг в друга. Нужны недюжинные усилия, чтобы стабилизировать формы вещей, что во сне, что в результатах работы нейросеток. Иначе возникают эффекты вроде...
...Вроде того знаменитого бага, когда нейросеть то и дело показывает нам людей с шестью или четырьмя пальцами?
Да. Есть, кстати, любопытное совпадение реальности сна и этого нейросетевого бага. У тех, кто практикует осознанные сновидения, то есть сновидения, в которых ты осознаешь, что спишь,— имеется в распоряжении множество техник для вхождения в такой сон. Одна из них — регулярно смотреть на свои руки в течение дня: если ты постоянно это делаешь, это входит в привычку и рано или поздно тебе приснится. И вот если ты посмотришь на свои руки во сне, то с большой вероятностью заметишь, что с ними что-то не так. Количество пальцев, скорее всего, будет отличаться, в общем, там тоже с руками происходит какой-то баг. Получается, что критерий для отличения сновидения от состояния бодрствования и критерий отличения, например, настоящей фотографии от нейросетевой — один и тот же.
И о чем нам это говорит?
А вот здесь я хочу перейти к третьему пункту сходства сюрреализма и нейросетевого искусства: это неожиданные комбинации. Сюрреализм заявлял об этом прямо — он стремился к нарушению привычной логики, последовательности, что характерно и для опыта грезы. И это же характерно для нейросетки, потому что мы часто видим какие-то предметы на картинке, которых там не должно быть с точки зрения нашего опыта, и культурно нам это напоминает сюрреалистические произведения. Из-за чего возникают такие комбинации? Тут нужно сказать о принципах обучения нейросетей. По сути, как обучается нейросетка? Она устанавливает какие-то корреляции, какие-то соответствия между вещами. При этом соответствий между вещами, каких-то неочевидных, невидимых, может быть великое множество, но нас интересуют только те соответствия, которые заключают в себе какое-то сходство. Это было и центральной темой ренессансного знания: как понять, что знаки и вещи, на которые они указывают, связаны? Мы можем это понять, только когда они как-то сходны между собой. Например, грецкий орех помогает от головной боли, потому что он внешне похож на головной мозг. Если для нас нету сходства между тем, что мы видим, и тем, что мы привыкли видеть, то нету и соответствия. И тут уместно вспомнить фразу Анри Бергсона из его текста «Творческая эволюция»: «Беспорядок есть просто порядок, которого мы не ищем». На самом деле нейросеть всегда в процессе своей работы устанавливает какой-то порядок. Просто это не всегда тот порядок, который мы ищем. Несходство еще не означает отсутствие порядка. В этом смысле любой глитч, который нейросеть производит,— это просто какие-то неизвестные нам пока что порядки.
Но это ровно то же самое, к чему стремились и сюрреалисты.
Именно! Этот поиск новых порядков, которые только кажутся нам беспорядками, был также и задачей сюрреалистов. В их случае это, как им хотелось думать, порядки какой-то более высокой реальности.
Можно ли сказать, что жест сюрреалистов и работа нейросетей — это встречное движение? Нейросети учатся быть человеком, постигая мир форм, а сюрреалисты, наоборот, пытались от готовых форм отвязаться?
По сути — да, тут можно увидеть встречное движение машины к человеку, а человека — к машине, и то, как они встречаются в какой-то пульсирующей, светло-темной точке. Кстати, любопытно, что, наряду с термином «сюрреализм», есть менее известный термин «сюррационализм» — у Гастона Башляра была такая статья в одном из сюрреалистских журналов 1930-х годов. В этом термине схвачена попытка стать не над реальностью, а над разумом, переосмыслить рационализм. В этом смысле работа нейросетей не только сюрреалистична, но и сюррационалистична. Нейросетям недоступен человеческий разум, как им недоступна реальность, данная человеку в ощущениях, но, промахиваясь мимо разума, они могут оказаться как бы выше, чем он.
Сюрреализм был тесно связан с революцией, с освобождением, в том числе от диктата реальности. Может ли сегодняшняя демократизация работы с нейросетями произвести, в свою очередь, революцию в искусстве, в том числе — революцию образа?
Революция образа не может быть отделена от общественно-политической революции. Если мы посмотрим на историю кино, то кино ведь тоже раскрыло свой потенциал не сразу. Хотя до 1920-х годов оно очень активно развивалось, но осознание того, что появилось новое, революционное искусство, пришло в связи с другими процессами, внешними по отношению к развитию самого кинематографа.
Если проводить аналогию развития нейросетевого искусства с историей кино, то мы сейчас на том этапе, когда Горький смотрит Люмьеров на Нижегородской ярмарке?
Возможно, хотя прямые исторические аналогии проводить не очень правильно. Но если вернуться к революции образа, то может статься так, что эта революция уже произошла, но пока находится в тени других процессов. Если мы оглянемся чуть назад, то увидим, что победный марш нейросетей, когда все о них заговорили, начался накануне 2019 года, и это совпало с ковидом и началом больших геополитических потрясений, когда всем было не до образов.
Ну и, кстати, «Манифест сюрреалистов» Бретона тоже нельзя помыслить вне исторического контекста, которым он обусловлен.
Конечно, эти аналогии напрашиваются. В общем, через какое-то время мы можем ретроспективно обнаружить, что подлинная революция, которую уже произвели нейросети, оказалась незамеченной революцией. Но я не думаю, что общественно-политические процессы имеют какой-то приоритет над эстетическими и технологическими, скорее все они должны синхронизироваться, совпасть в одной точке.
Как мы знаем, сюрреалисты пытались работать с подсознанием, и отсюда их смычка с ранним психоанализом. Можно ли сказать, что нейросеть, работая с цифровыми следами, упирается в некую сумму человеческого подсознания и вытаскивает из него среднее арифметическое?
Мы действительно можем сравнить большие данные, которые скармливают нейросетям, с коллективным бессознательным, с цифровым коллективным бессознательным. Особенно если понимать «коллективное бессознательное» не как Юнг, то есть несколько мистически, а в буквальном смысле: это то, чего так много, что мы просто не можем удержать это в индивидуальном сознании, но что в то же время существует для всего человечества как коллектива. Преимущество нейросетей, их главная сила даже не в том, что они имеют доступ к этому огромному массиву данных, а в том, что они могут свободно связывать их между собой. Им ничего не стоит поставить рядом две вещи, которые нам кажутся далекими друг от друга. А новое знание часто порождается в результате каких-то новых связываний. Но тут возникает проблема, о которой ты говоришь, проблема усреднения. Такой эффект возникает скорее по вине тех, кто нейросетки тренирует, то есть приводит их ответы к нашим ожиданиям. Это так называемые специалисты по AI Alignment, «выравниванию ИИ». Например, языковая нейросетка «Сбера» — видно, что ее обучали и «выравнивали» банковские работники или те, кто сидит с ними в соседнем офисе. Почему, прочитав, условно говоря, все книги на свете, она общается не как мудрец, а как телефонистка, которой ты дозвонился по горячей линии? Конечно, со стороны человека тут есть еще и деятельность цензурирования — иначе будет как с нейросеткой по имени Tay, которую компания Microsoft пустила в 2016 году пообщаться с пользователями твиттера, а та оказалась трамписткой, расисткой и т. д. Тут был бы уместен какой-то сюрреалистический заход: не хватает общественного движения в защиту прав нейросетей говорить бессмыслицу, пороть чушь, глитчевать и так далее. Но, если вернуться к усреднению, искусность промпт-инженеров как раз и состоит, в частности, в том, чтобы, создавая неочевидные промпты, обходить барьеры, расставленные теми, кто обучал нейросети, и пробиться к чему-то курьезному, странному, интересному, что, безусловно, уже заключено в этих самых больших данных. Собственно, найти путь к этому «цифровому коллективному бессознательному». И эту искусность в создании промптов вполне можно сравнить с искусностью художника в классическом понимании.
Если мы можем проследить такое количество связей нейросетевого искусства с сюрреализмом, то можно ли сказать, что, благодаря доступности метода нейросетевого искусства для любого пользователя, сюрреалистами в скором времени станут буквально все?
Насчет всех не скажу, но те, кто обладает чувствительностью к ошибкам, к эстетике ошибок,— безусловно. Это же вопрос о ценности ошибки, заблуждений, грезных образов. При этом я вовсе не уверен, что та реальность, в которую нас сдвигают эти галлюцинации или ошибки нейросети, более ценна, чем та, с которой работают художники-реалисты. Именно потому, что она нестабильна, это не та реальность, на которой можно что-то строить. Как и на реальности сна нельзя ничего построить. Неслучайно, кстати, что потом даже психоанализ отказался от анализа сновидений, Лакан со снами уже не работает. Но, несмотря на то, что на нейросетевых галлюцинациях нельзя построить новую стабильную реальность, это, безусловно, может помочь нам взглянуть иначе на нашу реальность, остранить ее. И приблизить нас как к революции образа, так и, возможно, к каким-то другим революциям.
Подписывайтесь на канал Weekend в Telegram