Человечество, получив любую новую технологию, в первую очередь использует её для создания контента для взрослых. Эта закономерность в очередной раз подтвердилась с приходом генеративного ИИ.

По данным китайских СМИ, в стране активно развивается целая индустрия по массовому производству порнографического и эротического контента с помощью искусственного интеллекта. Недавно Центральное телевидение Китая (CCTV) раскрыло схему, в рамках которой один из сайтов с эротическими комиксами набрал более 100 миллионов просмотров и принёс организаторам около 12 миллионов юаней. Значительная часть материалов на нём была сгенерирована ИИ.

Ранее журналисты уже показывали, как работает вся цепочка: продажа инструкций и «промптов» (от 10 юаней), использование уязвимостей в популярных ИИ-приложениях, а также распространение зарубежных чат-ботов с взрослым контентом. В одном из приложений, которое недавно привлекло крупные инвестиции, за несколько минут можно было сгенерировать видео с полуобнажённой танцующей девушкой.

Особенно тревожной тенденцией стало появление дипфейков. Девушки всё чаще обнаруживают, что их лица из обычных фотографий в соцсетях и сторис «вшивают» в порнографические видео. По данным китайских правоохранителей, количество случаев мошенничества с использованием ИИ-замены лиц выросло на 45 % за квартал, а 17 % из них — это шантаж интимными материалами.

Низкий порог входа делает проблему массовой. В интернете открыто продают туториалы и готовые промпты, позволяющие «одной фотографией заставить девушку танцевать». Некоторые продавцы обещают «дневной доход в пять цифр». При этом для обхода модерации используются английские формулировки, детальные описания движений и даже запуск моделей на личных компьютерах без подключения к интернету.

Страдают не только обычные люди. Автопроизводители XPeng и Li Auto уже сталкивались с вирусными фейковыми видео, в которых ИИ использовали для создания компрометирующего контента с участием их автомобилей. В одном случае это привело к отмене заказов.

Эксперты отмечают, что глобальная порноиндустрия ежегодно приносит около 100 миллиардов долларов — в два раза больше, чем вся индустрия ИИ. При таких деньгах и крайне низкой себестоимости производства (несколько часов вместо съёмочной команды) остановить распространение ИИ-контента для взрослых становится крайне сложно.

Пока регуляторы и платформы пытаются выстроить защиту, «жёлтая» индустрия продолжает активно осваивать новые возможности генеративного искусственного интеллекта.