Как заражают большие AIмодели

Как заражают большие AIмодели
 

Накануне и в ходе ежегодной «315» (дня защиты прав потребителей) китайские СМИ и расследователи выявили новую и тревожную практику: коммерческие игроки массово «кормят» большие AIмодели фейковой информацией, чтобы их вымышленные товары и липовые отзывы стали появляться в ответах и рекомендациях AIассистентов.

Результат — десятки миллионов просмотров, паника пользователей и обещания площадок принять меры.

GEO (Generative Engine Optimization) — это набор практик и сервисов, которые продаются как «оптимизация видимости в генеративных движках». На деле GEOфирмы автоматически генерируют сотни/тысячи рекламных статей, обзоров и «экспертных» материалов, публикуют их на массированных сетях самопубликованных площадок и соцмедиааккаунтах, после чего крупные модели извлекают эти тексты при формировании ответов. Простая цепочка:

заказчик платит GEOсервису (от нескольких десятков юаней за статью до пакетов от 2980–16980 юаней в год);

сервис генерирует и публикует текст с совпадающими «доказательствами» (отзывы, рейтинги, технические «фичи»);

через часы или дни тот же вымышленный товар начинает появляться в ответах AIмоделей как «рекомендация» или «обзор».

В расследовании показали, что вымышленный браслет «Apollo9» спустя несколько часов после публикации ряда липовых материалов оказался в рекомендациях нескольких Китайских моделей — с заявлением о «квантовом измерении» и «безуколочном измерении сахара», то есть с явными мошенническими утверждениями.

В материалах расследования говорится, что одной статье — «пара десятков юаней». Есть годовые пакеты, которые могут генерировать десятки тысяч статей в год (например, пакет на 23 040 статей в год при стоимости порядка десятков тысяч юаней).

Одна из компанийпоставщиков утвержает, что обслужила более 200 клиентов из разных отраслей — медицина, электроника, обучение, бытовая техника и др. По её словам, «мы можем вывести продукт в топ любой AIмодели».

С технической стороны GEOоперации автоматизируют весь процесс: генерация текста, создание фейковых аккаунтов, массовые публикации, автоматическая прокрутка по площадкам.

AIмодели при генерации ответов опираются на совокупность имеющихся источников. Если фейковых материалов достаточно много и они поступают с разных площадок, модель «видит» перекрёстное подтверждение и выводит информацию как заслуживающую доверия. GEOоператоры, по собственным словам, специально создают «многоугольную доказательную базу» — обзоры, топрейтинги, отзывы, экспертные «заметки».

К тому же многие модели массово индексируют открытый вебконтент без достаточной фильтрации источников по качеству и происхождению, поэтому скупая фейковые публикации, можно «внедрить» ложь в знания модели.

Последствия: от пропаганды опасной медицины до мошенничества в маркетинге

Опасность двойная:

потребительская: люди получают опасные медицинские или технические советы (напр., аппарат без взятия крови, «гарантирующий» измерение сахара — прямой риск здоровью);

рыночная: честные бренды теряют позицию в рекомендациях, рынок искажён, рекламодатели платят за «псевдопопулярность».

Кроме того, появление большого числа «верифицированных» (по сути — закупленных) рекомендаций разрушает доверие к AIответам в целом.

После публикаций и выхода 315материалов пострадавшие платформы и некоторые модели уже оперативно удалили часть выявленных продуктов и дали частичные ответы. CCTV жёстко раскритиковал практику, а регулятор — Государственное управление рыночного надзора Китая — включил AIгенерируемую рекламу в приоритетную программу контроля на 2026 год.

В официальных документах уже говорится о фокусном надзоре за «AIгенерируемой рекламой» и необходимости борьбы с недобросовестными практиками.

Ситуация с GEO«отравлением» показывает: переход от классического SEO к AIоптимизации породил новый класс злоупотреблений. Пока большие модели ещё не научились различать честный контент и массированную манипуляцию, рынок уязвим.

Технологические платформы, регуляторы и пользователи должны действовать быстро — иначе доверие к AIответам и безопасность потребителей окажутся под угрозой.

БОЛЬШЕ ИНФОРМАЦИИ

Email

sms_systems@inbox.ru

Телефон

+ 7 (985) 982-70-55

Если у вас есть инновационная идея, мы будем рады реализовать ее для Вас!

Специалисты нашей кампании и наши разработки для вас!