Xiaohongshu — популярное китайское мобильное приложение, которое сочетает в себе функции социальной сети, платформы для обмена фото и видео и электронной коммерции. с более 300 млн активных пользователей в месяц, официально объявила о начале специальной кампании по борьбе с «AI-агентами» — аккаунтами, полностью или почти полностью управляемыми генеративными агентами.

В опубликованном объявлении платформа разделила нарушения на уровни и ввела дифференцированные санкции: эпизодическое использование ИИ для написания или публикации может привести к предупреждению и ограничению распространения контента; а аккаунты, полностью зарегистрированные, управляемые и взаимодействующие через ИИ (включая все заметки на странице), будут немедленно блокироваться. Это решение прямо коррелирует с положениями национальных правил по пометке синтетического контента и запрету «машин выдавать себя за людей».

Что именно обнаружила платформа

По мониторингу Xiaohongshu, в последние месяцы сформировалась целая индустрия AI-агентов: с помощью инструментов вроде OpenClaw злоумышленники автоматизировали регистрацию аккаунтов, генерацию постов, массовые комментарии и приватные рассылки, чтобы формировать поток «псевдоопытом» рекомендаций и конвертировать трафик в монетизацию.

Такие аккаунты легко узнаются по шаблонности — одинаковые формулировки, повторяющиеся шаблоны изображений, механизированные ответы в комментариях. В результате они быстро захватывают выдачу и мешают органическому росту реальных создателей контента.

Платформа также отмечает случаи реального ущерба: пользователи, ориентируясь на поддельные «опыты использования», сделали покупки и столкнулись с проблемами — появились жалобы и споры по правам потребителей.

Инструменты защиты и отчетности

Xiaohongshu открыла специальный путь для жалоб: на странице заметки — через «Поделиться → Пожаловаться → Причиняет беспокойство или вред → AIфальсификация», а на странице аккаунта — через меню (···). Платформа подчёркивает, что цель не в запрете ИИ как инструментов: ИИ может помогать в выборе тем, редактировании, создании заготовок.

Главное — разграничить использование ИИ как помощника и недопустимость подмены реального человека в роли аккаунта и интеракций.

Сразу после объявления некоторые серые команды, занимающиеся массовым «подращиванием» аккаунтов и их продажей, начали удалять контент и закрывать аккаунты; большинство реальных авторов и блогеров поддержали инициативу как шаг к восстановлению честного распределения внимания.

Почему это может стать прецедентом для всей индустрии

Эксперты полагают, что ясный запрет Xiaohongshu на AI может стать поворотной точкой в верификации и модерации сгенерированного ИИ контента. Поскольку генеративные модели всё глубже входят в цикл контента, платформы вынуждены балансировать между повышением эффективности создания и сохранением экосистемной целостности.

Аналогичные меры уже предпринимают Douyin, Kuaishou, Bilibili и Zhihu: они вводят маркировку AIконтента, ограничивают виртуальных «персонажейпродавцов» и борются с массовыми низкокачественными роликами.

Запрет ударит по целому спектру серых практик: массовая продажа «прогретых» аккаунтов, автоматизированный фрод с комментариями и личными сообщениями. Это способствует возвращению ценности аутентичных отзывов и живых взаимодействий.

Глубже: почему «живое» сообщество — новый дефицит

На первый взгляд парадоксально: чем мощнее становятся алгоритмы, тем выше ценность человеческого взаимодействия. Но именно это и объясняет стратегию платформы. Для обучения и улучшения больших языковых моделей важна не просто масса текста, а живые диалоги — ветви комментариев, уточняющие вопросы, несогласия, последовательные уточнения, социальный контекст.

Такие мультилинейные взаимодействия дают уникальную «диалоговую» структуру, которую ИИ сгенерированный контент имитировать не способен в полном объёме.

Исследования показывают: модели, дообученные или дополненные реальными сообществами (через RAGподход и прочие схемы), демонстрируют заметное улучшение качества в задачах диалога и классификации.

Однако избыточная доля искусственно сгенерированного контента в тренировочном наборе приводит к деградации модели — она начинает учиться не на живой дискуссии, а на эхомашинах.

Кроме технической стороны, есть ещё и пользовательская логика: если платформа переполнится «фабричными» рекомендациями, у пользователя исчезнет мотивация оставаться на ней и доверять контенту.

Почему листать Xiaohongshu, если можно напрямую спросить мощную модель? Устойчивость платформы в новой реальности определяется не объёмом контента, а степенью доверия — и это ключевой сдвиг в конкурентной логике: от «максимального количества контента» к «гарантированному качеству и реальности авторов».

Вывод

Решение Xiaohongshu — не консервативный отказ от технологий, а попытка сохранить главное конкурентное преимущество платформы — доверие сообщества. В эпоху генеративного ИИ платформы перестраивают бизнеслогику: поток контента уже не равен ценности; ценность — в реальности, взаимодействии и доверии. AI остаётся инструментом, но «подлинность человека» становится новым дефицитом и одновременно — главным активом платформ, стремящихся к долгосрочной устойчивости.