Теория мертвого интернета: как появилась и чем опасна

Представьте, что пользователи, с которыми вы взаимодействуете в соцсетях, — не люди, а боты на базе ИИ. Даже тренды, которые вы обсуждаете с этими ботами, созданы не людьми, а теми же ботами. Звучит пугающе, но по мнению сторонников теории мертвого интернета, это уже реальность.

Ничего не напоминает?

Согласно этой теории, большая часть активности и контента в интернете, в том числе аккаунты в социальных сетях, создана агентами искусственного интеллекта.

Агенты могут быстро создавать публикации, дополняя их сгенерированными изображениями, чтобы получить больше кликов, лайков и комментариев. Это происходит на таких платформах, как Facebook*, Instagram* и TikTok.

Более того, агенты управляют и многими аккаунтами, которые взаимодействуют с таким контентом. Это создает порочный круг искусственной активности — без четкой повестки дня и какого-либо участия людей.

На первый взгляд мотивация кажется очевидной — аккаунты с высокой вовлеченностью могут зарабатывать на рекламе.

Но цель может быть и более коварной. Аккаунты, управляемые ИИ, привлекают пользователей (многие из них фейковые, но некоторые — настоящие). Большое количество подписчиков легитимизирует аккаунт для реальных людей.

Для многих пользователей по всему миру социальные сети — основной источник новостей. И есть веские доказательства того, что на протяжении многих лет боты пытаются влиять на общественное мнение.

В исследовании 2018 года было проанализировано 14 млн публикаций в Twitter за десятимесячный период в 2016-2017 годах. Выяснилось, что боты в соцсетях активно участвовали в распространении статей из ненадежных источников. Аккаунты с большим количеством подписчиков легитимизировали дезинформацию, в результате чего реальные пользователи начинать верить в нее, взаимодействовать с ней и делиться ею с другими.

Это оказывает значительное влияние. Согласно некоторым отчетам, в 2022 году почти половина всего интернет-трафика была создана ботами. Качество фейкового контента будет только улучшаться благодаря достижениям в области генеративного ИИ, например моделям ChatGPT от OpenAI и Gemini от Google.

Компании пытаются бороться с теми, кто злоупотребляет их платформами. Например, Илон Маск изучал возможность ввести плату за использование X. Крупные социальные сети также могут удалять большие объемы активности ботов, если ее обнаружат.

Конечно, это не значит, что мы взаимодействуем только с фейками. Скорее, это напоминает о том, что следует скептически относиться к информации в интернете и ставить ее под сомнение.

В сентябре разработчик ПО Майкл Сайман запустил новую соцсеть под названием SocialAI, которая будто воплощает эту теорию заговора в жизнь.  Дело в том, что в SocialAI пользователи взаимодействуют исключительно с чат-ботами на базе ИИ.

Создатель описывается приложение как «приватную социальную сеть, где к каждой публикации вы получаете миллионы комментариев, созданных искусственным интеллектом, которые предлагают обратную связь, советы и размышления». Однако пока SocialAI подвергается резкой критике, а общение с ботами, как сообщается, кажется слишком искусственным.