Два года назад я написал дурацкую статью, “Луддизм нового времени”. Тогда я действительно верил в нейронные сети и пророчил им будущее отличного инструмента в человеческих руках. Но пришла пора несколько пересмотреть свои мысли. Мы живем с “умными” нейронными сетями половину десятилетия, но до сих пор так и не поняли, зачем они нам. Сегодня мы поговорим о нейросетях в культуре и искусстве, о планах создания сверхумного интеллекта, о мертвом интернете и о его последней стадии —  о цифровом средневековье.

Так что же изменилось с прошлой статьи?

Нейронные сети стали неотъемлемой частью нашей жизни. Как я и пророчил, несмотря на все переживания и беспокойства, нейросети не вышли за рамки инструмента. Людей не стали массово увольнять и заменять нейронками, кроме того люди все еще пользуются обычными средствами получения информации. Нейросети стали еще одним инструментом, подобно кисти, ткацкому станку и молотку. Но любой инструмент может быть использован неправильно и исключительно для извлечения сиюминутной выгоды, подобно тому, как все те же ткацкие станки через много лет приведут к тоннам бессмысленной, дешевой и некачественной одежды.

Так случилось и с нейросетями. Но если мы можем просто выкинуть дерьмовую одежду и не вспоминать об этом, то в этот раз все получилось несколько сложнее. Нейронные сети производят продукт для самого чувствительного органа нашего тела — для мозга, из которого нельзя просто выкинуть.

Возможно, вы не заметили, но интернет умер 10 лет назад

В конце десятых на форчане впервые была “сформулирована” теория мертвого интернета, в современном мире уже набившая оскомину всем пользователям этого самого интернета. Она гласит о том, что в интернете практически не осталось живых людей — интернет повсеместно заполнился, тогда еще, ботами, которые умело имитируют человеческую активность — сами создают и распространяют контент, сами его потребляют, сами ставят лайки и пишут комментарии. Но если тогда это воспринималось как бред очередного анона, то сейчас мы можем наглядно проследить это явление и его цели.

В огромном необузданном пространстве, где каждый может высказывать свое мнение, надо уметь этим мнением управлять. И речь не только про государства, которые являются главным бенефициаром такого подхода. Хоть это и очевидная истина, есть множество компаний и лиц, которые хотят управлять вашим мнением и влиять на то, что и как вы делаете. На этом построена вся экономика внимания — заставь человека думать так, как тебе необходимо, и он сделает все, что ты захочешь.

Но в современности, когда простых ботов заменили нейросети, к этому добавляется еще и сиюминутная выгода. Ты можешь залить идиотическое нейронное видео в Тик-ток, получить миллионы просмотров и быстрый заработок. Вкупе с всеобщим увеличением скорости информации, такой подход приносит очень приятные средства, а также множит количество нейро-контента, не имеющего никакой ценности. Только в 2023 процент контента, созданного нейросетями был уже в районе 10, сегодня он уже кратно больше.

Если раньше это был текст, максимум плохо сделанная картинка, то сегодня интернет заполонили все виды медиа в исполнении нейросетей. Хотите посмотреть фильм? Смотрите, он сделан полностью нейросетью. Хотите поиграть? Играйте, игра в реальном времени рисуется нейросетью. Что уж говорить о более простых формах творчества — музыка, созданная нейросетью, месяцами висит на верхушке чартов, а текст, написанный нейросетью, можно найти в топе поисковой выдачи практически по любому запросу.

Интернет постепенно перестает быть местом для людей и становится местом для симулякров, что и пророчила теория мертвого интернета. Сейчас это еще не так сильно проглядывается, но уже через несколько лет человек не сможет зайти в интернет не увидев чего-то, сделанного нейросетью.

Сверхумный интеллект

OpenAI, судя по слитым отчетам, грезит создать искусственный сверх-интеллект, по всем параметрам не отличимый от человеческого, уже к 2027 году. Для этого строят огромные вычислительные кластеры, размером с небольшие государства, для этого Microsoft занимается разработкой термоядерного реактора, для этого правительство США выделяет триллионы долларов.

Но вряд ли эта мечта сбыточна. Даже если не рассуждать в области философии, то у ОпенАИ уже есть серьезная преграда — исчерпание информации. В тех же отчетах фигурирует количество данных, которыми была натренирована GPT-4o — это около 90% от всей информации, доступной в интернете. Кроме того, архитектура современных нейросетей исчерпывает себя — рано или поздно модели перестанут умнеть даже с ухищрениями и костылями, вроде Deep Reasoning. И тут уж либо OpenAI придумывает новую архитектуру и ищет новую информацию, либо все вчерашние светила науки отправляются на деловерский мороз, чего они уж никак не допустят.

Возвращаясь к философии, искусственный интеллект, каким бы продуманным он не был и как бы человеческую активность не имитировал, не обладает субъектным опытом. Он обладает только [M̴̲̦̋̔̑i̵̯͋s̶̢̲̮͌̓s̷̺̑͗͊ͅi̴̳͆n̸̠̦̦͌͝g̵̥͌̉ ̶̠̋͒T̸̝̬̾͟ė̸̛̛͕͎̰x̴̩̀t̷̏͂͛ͅ:̵̪̱̎͟ ̷̪͆͛̽M̴̺̰̈́̀͡e̴̩̠͌̐ṃ̵͇̈ḛ̵͓̜͆̅ṫ̷̟̬̫͊i̵̫͋̋c̷̪̣̊ͅÍ̵̖͖n̷̡͎͙͐ț̵̣͆̐r̴̫̼̆͟ó̶̼͡ď̵̥͚̰u̷̧͙͔͑̓̊c̸̠͈̗̚t̵̛̬̜̀i̷̢̙͋̚̚o̷̖̮̒n̸̨͇̠̅].

Кризис нейросетей пока в зачаточном состоянии — миллиарды долларов все еще выделяются, люди все еще вовлекаются, а компании все еще обещают технологические прорывы, но, опять же, к 2027-му мы посмотрим на то, что сможет придумать OpenAI и остальные — либо нас ждет феерический успех, либо не менее феерический провал.

Массовая глупость

Средний показатель айсикью человечества уже как 50 лет непрерывно снижается по самым разным причинам. Это и тетраэтилсвинец, это и микропластик и остальные около-эзотерические причины. Но, тем не менее, мы эмпирически можем наблюдать это снижение.

Сколь бы ни был изъезжен этот пример, но за 20 век люди научились летать на самолетах, строить космические корабли, обуздали атом и достигли невиданных ранее высот в науке и технике. Но в 21 веке мы вышли на плато. Люди все чаще говорят о кризисе познания, причем даже в исконно естественных науках.

Виной тому, как мне кажется, стала информация. Ее стало так много, что личность человека стала состоять не из проекций реальности, а из ее симулякров. Люди перестали анализировать мир непосредственно, отдавая большее предпочтение объемам и доступности информации. Этот биологический механизм, так успешно освоенный различными социальными структурами, превратился из дара, помогающего выживать, в обузу. Человек потребляет колоссальное количество контента, не имеющего никакого отношения к реальности, что отрицательно сказывается на всех сферах жизнедеятельности. Подобный механизм был отлично описан у Пелевина в его Generation P, но в значительно меньших масштабах. Сегодня людей формирует информация, а не наоборот, и об этом, опять же, говорят все чаще — в моду вошли дофаминовые безинтернетные разгрузки, различные аскезы, основная из которых информационная и тому подобные вещи.

Я предполагаю, что понадобится еще всего одно поколение на окончательную редукцию ума, подобно тому, что было в “Идиократии”. Люди, которые росли с бесконечным потоком информации, могут потерять базовую способность размышлять, отдавая это на аутсорс различным источникам и оперируя только готовыми данными.

Цифровое средневековье

И, складывая все эти факторы, мы получаем крайне печальную картину. Человек все чаще выбирает информацию мысли, науки и культура стагнируют, а формы становятся все проще. Даже если человек стремится к обратному, существующая система не позволяет ему проявить себя в должной мере. Сама по себе жизнь постепенно перестает давать человеку новых вызовов, превращаясь в рутинное существование.

И это не первый случай в истории. Человек уже сталкивался с подобным во времена средних веков, когда сиюминутное удовольствие и желание мгновенного обогащения превалировали над всем остальным. И сейчас мы вступаем в эпоху нового средневековья, но уже цифрового.

Но, в отличии от романтизированного рыцарского времени, наше средневековье не сулит нам ничего подобного. Это будет разрушающийся мир, мир метамодерна в его худшем смысле. Следующие года главенствовать будет не содержание, а форма и количество. Будет первоочередно внимание, чем преданность, симулякр, чем знание и прочие красивые сравнения и противопоставления. Но как это будет на практике и как из этого можно будет выйти?

Два пути

Я вижу лишь два пути дальнейшего развития нашего мира в долгосрочной перспективе.

Первый из них — это полное отвержение интернета. Интернет станет заполнен мусором настолько, что людям там будет просто нечего делать. Человек будет постепенно возвращаться к привычному доинтернетному быту, откатываясь в развитии на сотню лет как минимум. И сколько просуществует общество в подобном состоянии судить не берусь, но быстрым процесс восстановления явно не будет.

Второй путь — полный отказ от децентрализации и контроль интернета. Я не стану говорить хорошо это или плохо, статья не про это, но сам факт можно проследить уже сейчас. Полным ходом идет деглобализация, государства все дальше отдаляются друг от друга, а большая война уже стоит на пороге и ждет своего часа. В культурном плане это также скоро приведет к деглобализации — интернет начнет быстро разрушаться, превращаясь в цепочку интранетов, на манер китайского или северокорейского, со строгими ограничениями относительно публикации и просмотра информации. Но тогда нейросети также будут строго ограничены в своем функционале и начнут использоваться прикладным образом — для идейного насыщения и поиска информации, а мусор будет старательно вычищаться из интернета в угоду знанию.

Закат человечества

Можно сказать, что я придаю слишком большое значение нейросетям, что мои прогнозы бредовы и несбыточны, на что я тоже надеюсь. Но это эссе, если его можно так назвать, и не стремится точно спрогнозировать реальность. Я просто попытался проанализировать те культурные явления, о которых говорят уже больше сотни лет. В постмодернистской философии о подобном говорил и Шпенглер в “Закате Европы”, и Бодрияр в “Симулякрах и симуляциях” и “Обществе потребления”, и Качински в “Индустриальном обществе и его будущем”. Все эти явления уже давно описаны, но общество уверенно игнорирует их. Подобные мысли затмеваются мнимыми проблемами, а головы людей все быстрее заполняются мусором. И сейчас, когда у нас появился такой мощный катализатор в виде нейросетей, а все разговоры про мрачное будущее из концептов и идей воплощаются в жизнь, самое время начать дискуссию о том, как и почему возникла эта проблема и как ее можно решить.