Этика
Ловушка наблюдательного капитализма: как компании в сфере ИИ зарабатывают на вашем внимании — и что о регуляторы наконец начинают с этим делать
За последнее десятилетие бизнес-модель компаний, занимающихся ИИ, была проста: собирать как можно больше личных данных, создавать модели, которые предсказывают поведение пользователей, и продавать эту предсказательную возможность рекламодателям.
Патрик Т ·
За последнее десятилетие бизнес-модель компаний, работающих с искусственным интеллектом, была простой: собирать как можно больше личных данных, создавать модели, прогнозирующие поведение пользователей, и продавать эту предсказательную способность рекламодателям. Это капитализм наблюдения, который принес триллионы рыночной стоимости. Но теперь, когда регуляторы наконец начинают ограничивать сбор данных и алгоритмическое таргетирование, возникает вопрос, сможет ли индустрия искусственного интеллекта выжить без своего основного источника дохода.
Экономика внимания
Доход Meta в 2025 году составил 114 миллиардов долларов. Из них 111 миллиардов долларов пришлись на рекламу. Доход Google в 2025 году составил 307 миллиардов долларов. Из них 307 миллиардов долларов пришлись на рекламу. Доход TikTok в 2025 году оценивался в 15 миллиардов долларов. Весь он пришелся на рекламу.
Эти компании не продают продукты. Они продают внимание. Они собирают данные о том, что вы смотрите, на что кликаете, что ищете, и используют ИИ, чтобы предсказать, что будет вас удерживать. Затем они продают эту предсказательную способность рекламодателям, которые хотят показывать вам рекламу.
Машина для извлечения данных
Рассмотрим обычный день для обычного пользователя. Вы просыпаетесь и проверяете свой телефон. TikTok знает, какие видео вы смотрели, как долго их смотрели и ставили ли вы лайки или комментировали. Instagram от Meta знает, какие посты вы просматривали, что искали и на чем ставили паузу. Google знает, что вы искали, какие сайты посещали и сколько времени проводили на каждом из них.
К концу дня эти компании собрали о вас тысячи данных. Они знают ваши интересы, ваши политические взгляды, ваш семейный статус, ваши проблемы со здоровьем, ваше финансовое положение. Они знают, что вас злит, что делает вас счастливым, что заставляет вас кликать.
Модели ИИ обрабатывают эти данные, чтобы создать ваш профиль. Профиль — это не простой список интересов. Это сложное, многомерное представление ваших психологических уязвимостей. Модель узнает, что вы подвержены возмущению, поэтому показывает вам контент, вызывающий возмущение. Она узнает, что вас интересуют предметы роскоши, поэтому показывает вам рекламу предметов роскоши. Она узнает, что вам одиноко, поэтому показывает вам контент, который заставляет вас чувствовать себя менее одиноко (и, следовательно, удерживает вашу вовлеченность).
Регуляторная реакция
В 2024 году вступил в силу Закон Европейского Союза о цифровых услугах. Закон требует, чтобы платформы раскрывали, как работают их алгоритмы, и запрещает определенные виды таргетированной рекламы. Компании, нарушающие закон, могут быть оштрафованы на сумму до 6% от мирового дохода.
В 2025 году в Великобритании был принят Закон о безопасном интернете, который обязал платформы удалять вредоносный контент и предоставил пользователям право отказаться от использования алгоритмических систем рекомендаций. В 2026 году Федеральная торговая комиссия США выпустила новые правила, ограничивающие сбор данных компаниями социальных сетей и требующие явного согласия на поведенческое таргетирование.
Эти правила оказывают воздействие. Рост доходов Meta замедлился. Google сталкивается с антимонопольными расследованиями в нескольких юрисдикциях. TikTok запрещён в Соединённых Штатах, и аналогичные запреты рассматриваются в Европе и других странах.
Кризис бизнес-модели
Вопрос, стоящий перед компаниями, работающими с ИИ, носит экзистенциальный характер: можем ли мы выжить без наблюдения? Некоторые пытаются. Apple позиционирует себя как альтернативу, ставящую на первое место конфиденциальность, отказываясь от сбора поведенческих данных и вместо этого используя ИИ-модели на устройствах. Но доход Apple в основном поступает от продаж аппаратного обеспечения, а не от рекламы, поэтому бизнес-модель отличается.
Другие экспериментируют с альтернативами. OpenAI ChatGPT Plus — это модель подписки: пользователи платят напрямую за доступ к ИИ, а не платят своими данными. Эта модель оказалась успешной: более 100 миллионов пользователей оплачивают премиум-функции.
Но большинство компаний, занимающихся ИИ, по-прежнему зависят от рекламы. Они пытаются найти способы продолжать поведенческое таргетирование, при этом создавая видимость уважения к конфиденциальности. Они используют такие методы, как федеративное обучение (обучение моделей на данных, которые остаются на устройствах пользователей) и дифференциальная приватность (добавление шума к данным для защиты приватности отдельных лиц), чтобы заявлять о своем уважении к конфиденциальности, при этом продолжая собирать поведенческие данные.
Этическая альтернатива
Какой могла бы быть этичная компания, занимающаяся ИИ? Во-первых, она не собирала бы больше данных, чем необходимо. Если вы пользуетесь поисковой системой, компания должна знать, что вы искали, но не откуда вы это искали, какое устройство использовали и какие другие сайты посещали. Во-вторых, она не использовала бы ИИ для прогнозирования поведения пользователей с целью манипуляции. Системы рекомендаций должны быть разработаны так, чтобы помогать пользователям находить то, что они ищут, а не для максимизации вовлеченности или времени на сайте.
Третье, это будет прозрачно в том, как используются данные. Пользователи должны иметь возможность видеть свой профиль, понимать, как он был создан, и запрашивать его удаление. Четвертое, это позволит пользователям полностью отказаться от сбора данных. Если вы не хотите, чтобы создавался ваш профиль, вы должны иметь возможность пользоваться сервисом без создания профиля.
Будущее
Будущее ИИ в потребительских технологиях будет определяться регулированием, а не выбором компаний. Если регуляторы продолжат ограничивать сбор данных и поведенческий таргетинг, бизнес-модель наблюдательного капитализма рухнет. Компаниям потребуется найти новые источники дохода: подписки, лицензирование или государственное финансирование. Если регуляторы не примут меры, наблюдение будет продолжать усиливаться. Выбор за нами. Но нам нужно сделать его скоро, прежде чем инфраструктура наблюдения станет настолько укоренившейся, что её будет невозможно демонтировать.