SocialAI доводит «пузырь фильтров» социальных сетей до крайности со 100% поддельными взаимодействиями.

За последние несколько лет теория заговора под названием «Теория мертвого интернета» набрала обороты, поскольку большие языковые модели (LLM), такие как ChatGPT, все чаще генерируют текст и даже взаимодействия в социальных сетях, найденные в Интернете. Теория гласит, что большая часть социальной активности в Интернете сегодня является искусственной и предназначена для манипулирования людьми с целью вовлечения.

В понедельник разработчик программного обеспечения Майкл Сэйман запустил новое приложение для социальной сети под названием SocialAI, которое, похоже, воплощает эту теорию заговора в жизнь, позволяя пользователям взаимодействовать исключительно с чат-ботами с искусственным интеллектом, а не с другими людьми. Она доступна в магазине приложений для iPhone, но пока что она подвергается острой критике.

После того, как его создатель объявил SocialAI «частной социальной сетью, где вы получаете миллионы комментариев, сгенерированных искусственным интеллектом, предлагающих отзывы, советы и размышления о каждом вашем посте», специалист по компьютерной безопасности Ян Колдуотер язвительно заметил на X: «Это звучит как настоящий ад». Разработчик программного обеспечения и эксперт по искусственному интеллекту Колин Фрейзер выразил аналогичное мнение: «Я не имею в виду это в злом смысле или как данк или что-то в этом роде, но на самом деле это звучит как ад. Как с большой буквы А, Ад».

28-летний создатель SocialAI Майкл Сэйман ранее занимал должность руководителя продукта в Google, а также на протяжении многих лет он переключался между Facebook, Roblox и Twitter. В анонсирующем посте на X Сайман написал о том, что он мечтал создать сервис в течение многих лет, но технология еще не была готова. Он видит в этом инструмент, который может помочь одиноким или отвергнутым людям.

"SocialAI разработан, чтобы помочь людям почувствовать себя услышанными и дать им пространство для размышлений, поддержки и обратной связи, которое действует как сплоченное сообщество», — написал Сэйман. «Это реакция на все те времена, когда я чувствовал себя изолированным, или как будто мне нужен был резонатор, но его не было. Я знаю, что это приложение не решит всех жизненных проблем, но я надеюсь, что оно может стать небольшим инструментом для других людей, чтобы они могли задуматься, расти и чувствовать себя замеченными».

Как сообщает The Verge в отличном изложении примеров взаимодействий, SocialAI позволяет пользователям выбирать типы подписчиков ИИ, которых они хотят, включая такие категории, как «сторонники», «ботаники» и «скептики». Эти чат-боты с искусственным интеллектом затем отвечают на сообщения пользователей краткими комментариями и реакциями практически на любую тему, включая бессмысленный текст «Lorem ipsum».

Иногда боты могут быть слишком полезными. На Bluesky один пользователь попросил инструкции о том, как сделать нитроглицерин из обычной бытовой химии и получил несколько восторженных ответов от ботов с подробным описанием шагов, хотя несколько ботов предоставили разные рецепты, ни один из которых не может быть полностью точным.

У ботов SocialAI есть ограничения, что неудивительно. Помимо простого объединения ошибочной информации (что в данном случае может быть скорее особенностью, чем ошибкой), они, как правило, используют последовательный формат кратких ответов, которые кажутся несколько заготовленными. Их симулируемый эмоциональный диапазон также ограничен. Попытки вызвать резко негативную реакцию со стороны ИИ, как правило, безуспешны, при этом боты избегают личных нападок, даже когда пользователи максимизируют настройки для троллинга и сарказма.

LLM делают это возможным

Ничто из этого не было бы возможным без доступа к недорогим LLM, подобным тем, на которых работает ChatGPT. До сих пор создатель SocialAI Сайман заявлял, что он использует «пользовательское сочетание» моделей искусственного интеллекта для работы SocialAI, которое еще не было раскрыто, но они могут питаться из недорогого API, такого как GPT-4o mini. Некоторые пользователи уже раскритиковали способность ботов взаимодействовать реалистичным образом.

Эволюционный биолог и частый комментатор ИИ Карл Т. Бергстром написал: «Итак, я подписался на новую социальную сеть SocialAI, где вы совсем одни в мире ботов. Это намного хуже, чем я когда-либо мог себе представить. Это не ИИ уровня GPT; это больше похоже на уровень ELIZA, если бы ELIZA были лениво написанными стереотипами о каждом придурке на ICQ примерно в 1999 году».

Бергстром упомянул ELIZA, который был простым компьютерным чат-ботом 1960-х годов, и «heavenbanning» — концепцию, изобретенную разработчиком искусственного интеллекта Асарой Ниар и объявленную в сообщении в Twitter в июне 2022 года. Ниар написал: «Heavenbanning, гипотетическая практика изгнания пользователя с платформы путем замены всех, с кем он разговаривает, моделями ИИ, которые постоянно соглашаются и хвалят их, но только с их собственной точки зрения, вполне осуществима при нынешнем состоянии AI/LLM».

Запрет на небеса — это почти как цифровая форма солипсизма, философская идея, которая утверждает, что собственный разум является единственным истинным разумом в мире, а все остальные могут быть сном или галлюцинацией этого разума. Чтобы еще глубже погрузиться в философию, мы можем сравнить SocialAI в очень грубом смысле с гипотетическим сценарием «мозга в чане», где человеческий мозг извлекается из тела и получает информацию из компьютерной симуляции. Мозг никогда не узнает правду о своем положении. В настоящее время боты на SocialAI недостаточно реалистичны, чтобы обмануть нас, но это может измениться в будущем по мере развития технологий.

Как образец перспективного перформанса, SocialAI может быть гениальным. Или, возможно, вы можете рассматривать это как форму социального комментария о пустоте социальных сетей или о вреде алгоритмических фильтров, которые кормят вас только тем, что вы хотите видеть и слышать. Но поскольку его создатель кажется искренним, мы не уверены, как сервис может вписаться в будущее приложений для социальных сетей.

На данный момент приложение уже собрало несколько положительных отзывов в магазине приложений от людей, которые, похоже, наслаждаются этим вкусом гипотетического «мертвого интернета», словесно сражаясь с ботами ради развлечения: «5 звезд, и я использую это уже 10 минут. Я мог бы спорить с этим ИИ часами 😭, на самом деле так весело наблюдать, что он скажет на самые случайные вещи 💀».

“Dead Internet theory” comes to life with new AI-powered social media app | Ars Technica