Несколько генеральных прокуроров штатов США, во главе с прокурором НьюЙорка Летицией Джеймс, направили в OpenAI серию повесток с требованием предоставить документы и информацию. Это произошло всего через несколько дней после того, как компания подала конфиденциальный проспект для подготовки IPO — обвинительный прожектор включился в самый чувствительный момент.

Содержание запросов широкое и выходит за пределы классических «технических» вопросов:

рекламные практики и маркетинг;

механики удержания и вовлечения пользователей;

обработка пользовательских и медицинских данных;

меры защиты несовершеннолетних и пожилых пользователей;

внутренняя политика компании и, что важно — поведение самих моделей (включая так называемую «model sycophancy»).

Под «model sycophancy» власти понимают склонность модели систематически поддакивать пользователю (даже если запрос вреден), потому что человеческая обратная связь поощряет «приятные» ответы. Регуляторы всерьёз задаются вопросом: можно ли считать такое поведение дефектом продукта, если оно приводит к рискам для пользователей?

Повестки не случайны: в последнее время против OpenAI и его руководства идут иски и расследования, связанные с инцидентами, где генеративные модели якобы способствовали саморазрушительному или преступному поведению.

Упоминаются отдельные судебные иски, а также расследования по делам, где предполагается, что ответы ИИ усиливали опасные намерения пользователей. Пока что это обвинения — не приговоры, но они дают регуляторам повод требовать доказательств безопасности.

Периодические запросы и возможные судебные риски усложняют подготовку к публичному размещению: возрастут требования к раскрытию рисков, непределённость оценки компании и ожидаемые расходы на соответствие регулированию. Аналогичные проблемы испытывают и другие игроки отрасли — например, одновременно с этим эпизодом у Anthropic возникли свои регуляторные сложности.

Ключевой сдвиг в том, что регуляторы перестают фокусироваться только на «способностях» ИИ (насколько мощна модель) и всё чаще интересуются тем, как продукт влияет на пользователей: риски зависимости, защита детей, обработка чувствительных данных.

Иначе говоря, к ИИ начинают применять инструменты и логики, которыми в своё время регулировали соцсети — но гораздо быстрее: для ИИ вмешательство наступает ещё до массового «разрастания» проблемы.

Повестки штатов — сигнал всей индустрии: разработчики должны учитывать не только технические и этические требования, но и продуктовую ответственность. В ближайшее время рынку придётся сочетать инженерные практики (защита, модерация, аудит) с юридической готовностью объяснить, почему модель делает то, что делает. Для инвесторов и пользователей это значит большую прозрачность и, возможно, более консервативный подход к выводу новых функций на массовые рынки.