Алгоритм не читает ваши мысли. Все гораздо страшнее
Случалось ли так, что вы только подумали о чем-то и вскоре увидели это в ленте социальной сети? Вы не искали информацию об этом в интернете, не говорили вслух, не отправляли друзьям ссылок. Но соцсети каким-то образом будто бы узнали, что у вас в голове. Наверняка кто-то из ваших знакомых описывал подобный опыт. И если еще совсем недавно мы задавались вопросами: следят ли за нами наши гаджеты и приложения, то сегодня подозрения развились до «а не читают ли алгоритмы наши мысли». ForkLog разобрался в механизмах возникновения «телепатии соцсетей» и выяснил, что все куда прозаичнее, но и страшнее, чем можно было подумать. Прослушка: мифы и реальность Мы уже привыкли и не обращаем внимания на ситуации, когда поговорили дома с родными о заболевшем зубе — звонит робот и предлагает пройти обследование в стоматологической клинике бесплатно; или позалипали на маркетплейсе на фото велосипеда — все ленты соцсетей в двухколесных красавцах всех мастей и моделей. Многие смирились с тем, что «смартфоны нас подслушивают». Если вы поговорите об этом с какой-нибудь моделью искусственного интеллекта, чат-бот вам ответит, что вы имеете дело всего лишь с распространенной теорией заговора. Но настоящий параноик только сильнее удостоверится, что роботы настроены против него, скрывают правду и замышляют что-то нехорошее. Ведь объяснение, что за нами следят, выглядит логичным. В смартфоне есть микрофон, приложения получают доступ к нему, а рекламодателям нужны данные. В 2018 году специалисты из Северо-Восточного университета (Northeastern University) проверили 17 260 популярных Android‑приложений, чтобы выяснить, не записывают ли они тайно разговоры пользователей. Исследователи не обнаружили случаев, когда протестированные сервисы активировали микрофон и незаметно отправляли куда-либо аудио. Однако выяснилось кое-что другое, не менее интересное: примерно 9000 из всех приложений, попавших в выборку, имели возможность делать скриншоты и отправлять их третьей стороне. В одном из случаев сервис доставки фастфуда GoPuff передавал видеозаписи экранной активности аналитической компании Appsee. Исследователи подчеркнули, что на таких записях потенциально могли оказаться поисковые запросы, данные корзины, адреса и информация о платежах. Неприятно, но, с другой стороны, гипотеза о прослушивании все же не подтвердилась. Но потенциально такие возможности существуют, а это значит, что найдется и тот, кто ими воспользуется. Микрофон способен записывать разговоры рядом с устройством. Голосовые ассистенты «слушают» в фоновом режиме, чтобы распознать wake‑word, и при ложных срабатываниях они могут записать и отправить в облако фрагмент разговора без ведома пользователя. Однако на современных iOS и Android доступ к микрофону контролируется разрешениями; фоновая запись и передача аудио без согласия затруднена и в массовых приложениях не обнаружена. Идея с подслушивающими приложениями стала настолько популярной, что кое-кто захотел использовать ее в коммерческих целях. В августе 2026 года FTC завершила дело против Cox Media Group и двух маркетинговых компаний — MindSift LLC и 1010 Digital Works LLC, которые продавали рекламодателям продукт Active Listening. По утверждениям компаний, система могла анализировать разговоры рядом с умными устройствами и использовать их для таргетированной рекламы. Еще клиентов уверяли в том, что пользователи уже дали согласие на их прослушивание. Был бы, наверное, еще больший скандал, если бы расследование не вскрыло банальную ложь: сервис фактически не использовал голосовые данные и не обеспечивал обещанный таргетинг. По факту рекламодателям просто перепродавали данные брокеров (в частности, email‑списки) под видом нового ИИ‑продукта. В совокупности компании-обманщицы выплатили $930 000 штрафа: Cox Media Group — $880 000, MindSift и 1010 Digital Works — по $25 000 каждая. Так почему при всех возможностях вас прослушивать этого с огромной долей вероятности никто делать не будет? Прежде всего из-за неоправданной дороговизны. Постоянное прослушивание потребовало бы хранения нереальных объемов данных и высоких вычислительных затрат, и это без учета серьезных юридических и репутационных рисков. Кроме того, в большинстве случаев подобное попросту не нужно. Потому что у систем уже достаточно о вас информации. Я же только подумал! Представьте, что вы идете по залитой дождем осенней улице, и вдруг в голове всплывает известная мелодия. Вы решаете, что неплохо бы прийти домой и пересмотреть «Шербурские зонтики» под бокал вина. Вы не ищете фильм, не пишете друзьям, не открываете браузер. А через некоторое время заходите в любимую соцсеть — и видите пост именно об этой картине. И тут уже легенды о прослушке кажутся полным старьем. Как алгоритмы прочитали ваши мысли? Конечно же, никак! Этого они не умеют. Все гораздо хуже. Алгоритм подсовывает человеку не то, о чем тот подумал, а то, что с некоторой вероятностью пользователь захочет сделать. Это принципиально разные вещи. Чтобы предсказать желание, системе не нужно читать мысли. Ей нужно достаточно хорошо знать человека. В 2013 году исследователи Кембриджского университета и Microsoft показали, как много информации для этого содержат самые обычные цифровые следы. В исследовании более 58 000 пользователей Facebook алгоритм по одним лайкам с определенной точностью предсказывал не только очевидные вещи вроде пола и возраста, но и черты личности, политические взгляды, уровень открытости новому и другие характеристики. Исследователи отдельно отмечали, что похожую информацию можно извлекать из истории поисковых запросов, просмотров и покупок. С тех пор значительно изменились масштаб и сложность моделей. Современная рекомендательная система смотрит не на отдельный лайк, а на последовательность действий и пытается воссоздать стоящее за ними вероятное намерение. Например, несколько просмотров фильмов определенного режиссера, интерес к французской музыке, чтение публикаций о старом кино, взгляд задержался на фотографии Катрин Денев — по отдельности эти мелочи мало что значат, но в совокупности они уже могут указывать на вполне конкретный интерес. Исследования рекомендательных систем прямо используют понятие latent intent — скрытого намерения пользователя. Современные алгоритмы явно моделируют такие намерения из последовательности взаимодействий и на их основе предсказывают следующие шаги. При этом угадывать конкретное желание не обязательно — достаточно сузить пространство вариантов. Эксперименты с системами, которые специально извлекают динамические намерения из истории поведения, активно ведутся. В 2025 году исследователи предложили фреймворк DUIP (Dynamic User Intent Prediction), который объединяет LSTM‑модель последовательности действий с большой языковой моделью: LSTM кодирует эволюцию интереса, а LLM использует полученный «мягкий промпт» для предсказания следующего объекта, который пользователь с высокой вероятностью выберет; на нескольких датасетах (ML‑1M, Games, Bundle) DUIP превзошел методы, использовавшиеся ранее. Другой класс исследований рассматривает не отдельную историю просмотров, а короткую текущую сессию: несколько действий юзера прямо сейчас. В работе 2025 года в ACM Transactions on Information Systems описана модель, которая с помощью LLM извлекает многоаспектное скрытое намерение из сессии и на его основе формирует рекомендации, показывая улучшение по сравнению с базовыми подходами. Иными словами, направление развития достаточно очевидно: система хочет понимать не только то, что пользователю уже понравилось, но и то, к чему он движется. Давно не секрет, что системы не только изучают наши вкусы, убеждения, психологические особенности и интересы, но и формируют их. Тут начинается самое жуткое. Вам только кажется, что вы контролируете процесс Как определить, где проходит грань между рекомендацией и манипуляцией? Опубликованная в январе 2026 года в International Journal of Human-Computer Studies статья помогает в этом разобраться. Исследователи проверили, как разные способы объяснения рекомендаций влияют на выбор. В эксперименте с 231 участником использовались такие приемы убеждения, как социальное доказательство, авторитет, дефицит, симпатия и принцип взаимности. Убедительные объяснения не только влияли на выбор, но и повышали вероятность предпочтения менее полезного варианта. Грубо говоря, алгоритм по набору данных может определить, какой способ подачи с большей вероятностью заставит вас остановиться на конкретном варианте из предложенных. Люди, уверенные в том, что их критическое мышление работает безупречно и включено, когда они принимают решения или выносят суждения, часто попадают в западню. Они считают, что все просто: когда система предлагает хороший вариант — это рекомендация, а когда специально пытается заставить купить что-то ненужное — манипуляция. Представим, что алгоритм обладает данными: пользователь особенно восприимчив к социальному одобрению. Тогда ему не просто показывают товар, а дают понять, что «эту модель уже выбрали тысячи людей». Другому человеку, например, с признаками повышенной тревожности, можно показать: «осталось всего два экземпляра». Третьему: «люди с похожими интересами выбирают этот вариант». Товар один и тот же. Но аргумент каждый раз разный. Это и есть персонализация, но сама по себе она еще не совсем манипуляция. Обычно ею считают не любое влияние, а такое воздействие, которое скрыто или непрозрачно направляет человека к определенному решению, используя его уязвимости или обходя способность самостоятельно оценить ситуацию. Персонализация лишь создает техническую возможность для гораздо более точного воздействия. А станет ли это манипуляцией — зависит от того, с какой целью система используется. Рекомендательная система похожа на зеркало, которое способно менять не только ваше отражение, но и вас самих. Это происходит примерно на таких уровнях: Предсказание. Система пытается понять, что человеку уже интересно, и предлагает это ему. Например, пользователь много смотрит о путешествиях — ему показывают еще путешествия. Подталкивание. Система не просто отражает интерес, а выбирает, какой из нескольких вариантов поставить перед человеком первым. Убеждение. Система понимает, какой аргумент подействует именно на вас, и использует его в объяснении рекомендации. Манипуляция. Система целенаправленно использует особенности человека, о которых он сам может не знать, чтобы незаметно направить его к выгодному для платформы или рекламодателя результату. Система начинает менять самого пользователя. Она многократно показывает одни темы и практически игнорирует другие. Постепенно одни интересы укрепляются, другие исчезают из поля зрения. Пользователь продолжает выбирать сам, но уже внутри среды, которую алгоритм постоянно перестраивает. Про систему нельзя категорично сказать: она отражает мои интересы или навязывает мне чужие. Потому что она делает и то и другое одновременно. В основе лежат ваши реальные действия. Если вы никогда не кликаете на контент о политике, система не будет заваливать вас политикой (по крайней мере вначале). Однако, показывая вам определенную версию мира, система влияет на то, что вы увидите дальше, а оно уже будет формировать, что вы захотите. Это как если бы зеркало начинало показывать вам лицо с улыбкой — и вы, видя эту улыбку, неосознанно начинали улыбаться чуть больше. Через сто итераций ваше «реальное» выражение лица уже не будет вашим. Исследователи, изучающие автономию в контексте рекомендательных систем, именно поэтому говорят не только о манипуляции отдельными решениями, но и о более долгосрочном влиянии на формирование идентичности, знания и критического мышления. Государству не нужно за вами следить Достаточно контролировать информационную среду, персонализировать нарративы и использовать архитектуру выбора. Операторы связи, государственные сервисы, платформы и брокеры данных предоставляют метаданные: кто с кем общается, где бывает, что ищет, что покупает, на что подписан. На этой основе строятся детальные модели поведения и уязвимостей разных групп населения. В Китае эта логика доведена до системного уровня в рамках «социального кредита»: данные о покупках, перемещениях, онлайн‑активности, нарушениях превращаются в рейтинг, который влияет на доступ к кредитам, поездкам, госуслугам. Но даже без формального рейтинга достаточно сегментации: «молодежь, склонная к протестам», «пожилые граждане, чувствительные к теме пенсий», «предприниматели, реагирующие на регуляторные изменения». А дальше открывается возможность для персонализированного воздействия — того же микротаргетинга, который используют рекламодатели, только в политической и идеологической повестке. Алгоритмы позволяют создавать десятки версий нужного власти нарратива, каждая из которых резонирует с конкретными страхами, надеждами и ценностями аудитории. Одной группе показывают: «Стабильность важнее перемен, иначе будет как в 90‑е». Другой: «Только сильная власть защитит от внешних угроз». Третьей: «Реформы уже идут, не мешайте процессу». Четвертой — вообще другой набор тем: льготы, инфраструктура, местные проблемы. Государство может моделировать цифровую среду так, чтобы одни варианты были видны и удобны, а другие — скрыты или затруднены. На практике это выглядит так: в государственных агрегаторах новостей приоритет получают проправительственные источники; альтернативные медиа либо отсутствуют, либо помечены как «нежелательные», «иноагенты», «экстремистские»; в поисковых системах и рекомендательных лентах алгоритмы ранжирования смещают «одобренные» темы вверх, а маргинальные — вниз или в «теневой бан»; при оформлении госуслуг пользователю предлагаются «рекомендуемые» опции (например, согласие на обработку данных, подписка на уведомления), которые заранее выделены как более удобные. Это классический nudging — «подталкивание» — но в масштабах всей страны и с элементами персонализации. Разным группам могут показываться разные наборы «допустимых» опций, создавая иллюзию, будто у человека есть выбор, хотя сам список вариантов уже отфильтрован. В терминах исследований это называется hypernudge — динамическое, сетевое, индивидуализированное подталкивание, которое особенно сложно контролировать из‑за непрозрачности алгоритмов. Человек не чувствует прямого давления; он просто живет в среде, где одни пути кажутся естественными, а другие — странными, рискованными, «не для таких, как я». Пропаганда больше не требует жертв Та же, что и в маркетинге, логика с предсказанием, рекомендацией и влиянием работает и на уровне отношений государства и личности. Только ставки выше: вы будете делать, как вам кажется, осознанный выбор не между разными производителями или моделями велосипеда, а, например, между тем, что считать нормой, а что угрозой. Государственное влияние через алгоритмические системы работает на уровне условия возможности выбора. Оно не просто сужает каталог, оно определяет, какие категории доступны для мышления, какие вопросы можно задавать, какие альтернативы вообще приходят в голову. Это не манипуляция выбором в рамках игры, а изменение правил таким образом, что некоторые ходы становятся невидимыми. Говоря в терминах французского философа Мишеля Фуко, мы не всегда в подобных случаях имеем репрессии в классическом смысле («ты не можешь говорить о…»), перед нами оказывается власть, которая производит определенные формы субъективности, определенные режимы правды, определенные способы присутствовать в мире. Алгоритмическая среда не запрещает вам думать иначе — она делает ваш способ мыслить другим: менее вероятным, менее естественным, менее поддерживаемым окружением. Здесь речь идет не о предпочтениях в рамках уже заданного мира, а о конституции самого мира — о том, какие сущности в нем есть, какие отношения между ними возможны, какие нарративы считаются поддерживаемыми и одобряемыми, а какие — маргинальными или вовсе немыслимыми. Когда государство контролирует информационную среду на алгоритмическом уровне, оно получает возможность определять не только «какие факты показать», но и «какие эпистемические рамки легитимны». Один и тот же факт может быть встроен в нарратив «защиты суверенитета» или «подавления свобод» — и алгоритмическое усиление одного фрейма над другим определяет, какая интерпретация станет доминирующей. Это не просто «пропаганда» в привычном смысле, когда внедряется один месседж на всех, а уже персонализированное производство режимов истины: разным группам показываются разные эпистемические вселенные, в каждой из которых свои «очевидности», свои «здравые смыслы» и свои границы допустимого. Субъективность в петле В классической либеральной модели субъект предшествует выбору: у человека есть предпочтения, ценности, убеждения — и он делает выбор на их основе. В алгоритмической среде с петлей обратной связи эта последовательность размывается. Предпочтения не просто «есть», а формируются в процессе взаимодействия со средой, которая сама адаптируется под предыдущие реакции. Субъект не просто выбирает — он становится тем, кто выбирает определенным образом, потому что среда делала одни выборы более естественными, другие — более трудными. Мы говорим не только о том, за кого вы проголосуете на следующих выборах. Речь идет о том, каким субъектом вы становитесь в процессе постоянного взаимодействия с алгоритмически сконфигурированной средой. Какие вопросы вы считаете важными? Какие альтернативы — реальными? Какие ценности — не требующими обоснования? Нейтральной информационной среды не бывает, ее уже отобрали — и продолжают отбирать заново при каждом нашем действии в сети. Здесь возникает проблема отчуждения в новом изводе. В марксистской традиции отчуждение — это когда продукт труда становится внешней силой, которая доминирует над работником. В алгоритмической среде отчуждение приобретает эпистемическое измерение: вы находитесь в информационной среде, которую вы не создавали, не контролируете, не до конца понимаете, но которая определяет ваши предпочтения, убеждения, решения. Проблема автономии здесь не в том, что «вами управляют», а в том, что граница между «вашим» и «навязанным» становится неразличимой. Вы действительно хотите того, чего хотите? Или вы хотите этого потому, что среда делала другие желания менее вероятными? В государственном контексте это особенно важно: лояльность, патриотизм, согласие с политикой — все это может быть «искренним» в феноменологическом смысле (человек действительно так чувствует), но при этом быть продуктом среды, которая систематически усиливала одни нарративы и маргинализировала другие. Вам все еще кажется, что ваши мысли читают? Если да, то это значит, что вы человек с хорошо работающим магическим сознанием. Людям свойственно запоминать попадания и забывать промахи. Если Facebook за день показал тысячу публикаций, а одна случайно (или нет) совпала с вашей мыслью, именно это и останется в памяти. Получается идеальная машина для производства ощущения сверхъестественного: алгоритм делает огромное количество вероятностных прогнозов, человек замечает самые эффектные совпадения, а затем вспоминает их как последовательность «сначала я подумал — потом он показал». Это данность, которую придется принять так или иначе, тем более что четкого ответа на вопрос: что же нам с этим делать — не существует. Уход от виртуальной реальности все равно останется уходом от одной из составляющих реальности. Избежать влияния работы алгоритмов полностью никому не удастся, это тоже среда, в которой вы становитесь тем, кто вы есть. Осознавать, что ваша информационная среда не нейтральна — один из сценариев этого принятия. Понимание, что лента, которую вы видите, — это не «объективный мир», а версия мира, сконфигурированная алгоритмом под ваши предыдущие реакции — минимальная гигиена. Вашей личной рефлексии все равно будет недостаточно для сопротивления тем изменениям, которые будут с вами происходить под воздействием сетей. Проблема алгоритмического влияния не личная, а структурная. Она требует регулирования (прозрачность рекомендаций, возможность выбора между разными режимами ранжирования, ограничение микротаргетинга в политической рекламе), институциональных механизмов (независимый аудит алгоритмов, защита исследователей, изучающих эти системы), культурных норм (понимание, что «персонализация» — это не только удобство, но и власть). Можно требовать, чтобы у вас был выбор не только внутри алгоритмической среды, но и в отношении самой среды. Но как и кем будут эти требования удовлетворяться — пока тоже открытый вопрос.
