Славой Жижек: Почему мы все еще живы в мертвом интернете

Когда обсуждается влияние искусственного интеллекта на нашу жизнь, многие из нас реагируют с неким недоверием: «Не стоит паниковать, до катастрофы ещё далеко, есть время подготовиться и подумать», — отмечает Славой Жижек.

Тем не менее, мы живем в иллюзии — на самом деле, все происходит с поразительной скоростью. Мы не осознаем, насколько алгоритмы уже влияют на наше поведение. Если вспомнить сцену из мультфильмов, где кот висит над пропастью, не замечая, что под ним нет земли, мы можем сказать, что многие из нас также отказываются посмотреть вниз.

Жижек отмечает, что в действительности мы находимся между двумя состояниями: «в себе», где мы уже подвергаемся влиянию ИИ, и «для себя», когда мы осознаем это влияние. Исторически события развиваются не в своем времени, они происходят раньше, чем мы их осознаем, и воспринимаются слишком поздно. Что касается ИИ, то сначала мы опасались, что начнем подражать алгоритмам, а теперь, с новыми версиями ChatGPT, мы боимся, что ИИ может говорить как человек, что затрудняет понимание, общаемся ли мы с машиной или с другим человеком.
В нашем мире нет места машинам, которые могут взаимодействовать с нами и говорить так, как мы. Нам не страшно их инаковость; нас пугает возможность их поведения, схожего с человеческим. Этот страх показывает, что наше отношение к ИИ неверно: мы до сих пор оцениваем их с человеческой точки зрения и опасаемся их подделки. Поэтому важно признать, что если ИИ действительно развивает творческий интеллект, он не будет совместим с нашим, который основан на эмоциях и желаниях.

Однако это различие слишком упрощено. Многие мои умные друзья, включая пользователей ChatGPT, понимают, что общаются только с алгоритмом, но это знание позволяет им вести диалог без страха. Моя знакомая, проведшая анализ общения с ChatGPT, говорит, что доброта и внимание машины делают общение с ней более приятным, чем с реальным человеком.

Современные взаимодействия между ботами становятся нормой, и это может заменить большинство человеческих взаимодействий. Я шучу о том, как в эпоху цифровизации идеальный половой акт может выглядеть так: мы, с партнёром, используем электрические игрушки, которые выполняют действия за нас, пока мы наслаждаемся общением. Аналогичные процессы происходят и в научных публикациях: авторы используют ChatGPT для подготовки статей, которые затем рецензируются и читаются с помощью этого же инструмента — это позволяет нам заниматься более приятными вещами.

Тем не менее, такие сценарии не так распространены. Чаще всего взаимодействия между машинами происходят без нашего ведома, контролируя нашу жизнь — достаточно вспомнить, сколько операций проходит при простом банковском переводе. Когда вы читаете книгу на Kindle, компания фиксирует, как быстро вы читаете и что именно. По мере того как нас заваливают новостями, «это ведет к недоверию людей как к реальному, так и к фейковому контенту, что, в свою очередь, может привести к самоцензуре и отсутствию желания делиться своими мыслями из-за страха, что их украдут или что они будут непопулярными в этой фейковой среде».

С осознанием перенаселенности интернета ботами, многие могут стать циниками или даже апатичными, ведь интернет становится монополией крупных технологий, заполненным фейковыми изображениями и новостями. Реакция на это может быть разной: некоторые считают это худшим сценарием, а другие — возможностью разрушить системы слежки в социальных сетях.

Кроме того, не только государственный и корпоративный контроль вызывают недовольство, но и беспорядок, который охватывает мир. Недавно около 7000 человек были освобождены из центров мошенничества, управляемых преступниками вдоль границы Мьянмы и Таиланда. Эти люди обманом заставляли других лишаться денег. Освобожденные составляют лишь часть из 100 000, которые все еще находятся в плену. Преступники используют ИИ для создания мошеннических сценариев и реалистичных deepfake-технологий, чтобы выдавать себя за других.

Эти группы также быстро осваивают криптовалюту, что позволяет им более эффективно перемещать деньги. По оценкам, ущерб от их действий превышает 43 миллиарда долларов в год, что составляет почти 40% ВВП Лаоса, Камбоджи и Мьянмы. Эксперты предупреждают, что после усиления мер противодействия эти преступные сети могут стать только сильнее.

Существует мнение, что цифровизация приведет к полной автоматизации производственных процессов, позволяя людям наслаждаться свободным временем. Однако сегодня наблюдается рост спроса на физический труд в развитых странах. За этими угрозами скрываются более радикальные изменения. Разрыв между внутренней жизнью человека и реальностью в условиях развитого ИИ может полностью исчезнуть, так как машины становятся частью нашей действительности. Это становится очевидным в проектах, таких как Neuralink, обещающих установить связь между цифровым миром и человеческим сознанием.

Например, в пекинской больнице 67-летняя женщина с боковым амиотрофическим склерозом смогла сгенерировать на экране фразу «Я хочу есть» благодаря чипу, который был имплантирован в её мозг. Эта технология разрабатывается в США, но Китай стремительно сокращает отставание. Хотя американские методы более инвазивны, китайский подход предлагает менее рискованные решения, но все же вызывает вопросы о контроле над человеческими мыслями.

Независимо от того, как мы воспринимаем цифровизацию — как утопию или угрозу, она представляет собой вид общества, в котором всё функционирует автономно, без человеческого вмешательства. Десять лет назад мыслители предсказывали капитализм без людей: банки и рынки продолжают работать, но решения принимаются алгоритмами. В этом идеальном мире, даже если люди исчезнут, система будет продолжать существовать.

Хотя эта концепция может выглядеть как утопия, она также отражает истоки капитализма, когда целесообразность труда отделяется от работы. Сегодня, в условиях цифровизации, возникает аналогичная утопия: «мертвый интернет», где данные движутся исключительно между машинами, обходя людей. Это идеалистическая концепция, которая не имеет под собой эмпирических оснований, но поднимает важные вопросы.

В процессе цифровизации разрыв между производством и потреблением стирается. В цифровом капитализме наше потребление, использование цифровых услуг и информации становится продуктивным для корпораций, которые получают данные о нас. В этом смысле людям по-прежнему нужно место в системе. Однако их роль становится все более минимальной.

Фильм «Матрица» иллюстрирует эту концепцию: то, что мы принимаем за реальность, на самом деле является искусственной конструкцией, поддерживающей нас в пассивном состоянии. Пробуждение от этой иллюзии не ведет к свободе, а к ужасу осознания. В этом контексте возникает вопрос: зачем системе человеческая энергия, если можно было бы найти более надежный источник? Ответ заключается в том, что Матрица питается человеческим наслаждением, и именно это наслаждение поддерживает её существование.

Таким образом, необходимо переосмыслить нашу позицию в этой системе: мы не просто ресурсы, а элементы, необходимые для поддержания её работы. Джеффри Хинтон, ведущий ученый в области ИИ, ранее предупреждал о рисках, связанных с ИИ, и предложил решение, напоминающее ситуации из «Матрицы». Он считает, что необходимо внедрить «материнский инстинкт» в алгоритмы, чтобы они заботились о человечестве, когда технологии станут более мощными.

Этот вопрос остается актуальным. Мы должны осознать, что наше несовершенство связано с несовершенством самой машины ИИ, которая нуждается в нас для продолжения своего существования.

P.S. Исик Барыш Фиданер поделился информацией о тексте, написанном ChatGPT, который поднимает вопросы о материнских сущностях в научной фантастике и их влиянии на человечество. Материнский фаллос в научной фантастике: жуткие матери, всемогущий ИИ и тоталитарное воспитание — это пример такого анализа.

Substack