Стремительный интерес к новой модели Kimi K3 от компании Moonshot AI неожиданно выявил одну из главных проблем современного рынка искусственного интеллекта — нехватку вычислительных мощностей для инференса.

Менее чем через неделю после релиза разработчику пришлось временно остановить оформление подписок для новых пользователей, чтобы сохранить ресурсы для уже действующих клиентов. Компания подчеркнула, что существующие подписки и условия обслуживания не меняются, однако сроки возобновления продаж новых тарифов пока не определены.

Причина ажиотажа понятна. Kimi K3 позиционируется как крупная открытая модель класса MoE с общим объёмом в 2,8 триллиона параметров. По данным независимого рейтинга Artificial Analysis, она вошла в число лидеров по совокупной оценке способностей, оказавшись рядом с наиболее сильными закрытыми моделями. Для рынка особенно важно, что открытая модель впервые столь близко приблизилась к верхней части глобального рейтинга.

Разработчики активно тестируют Kimi K3 в задачах программирования, агентных сценариях, генерации кода и вызова внешних инструментов. Пользователи отмечают её потенциал в сложных многошаговых задачах, где модель должна удерживать контекст, анализировать код и последовательно выполнять действия.

В то же время первые отзывы показывают, что высокие результаты в бенчмарках не гарантируют безошибочной работы в профессиональных задачах: модель может упускать детали, допускать ошибки в статистических рассуждениях и требовать проверки со стороны специалиста.

Однако важнейший вывод связан не столько с качеством модели, сколько с инфраструктурой. Обучение большой модели — лишь начало затратного цикла. После запуска особенно ресурсоёмкими становятся пользовательские запросы, связанные с агентами и ИИ-программированием.

В отличие от короткого диалога в чат-боте, такие задачи включают длинный контекст, многократные рассуждения, использование инструментов и выполнение нескольких последовательных шагов. Каждый запрос дольше занимает GPU и обходится дороже.

Именно поэтому на первый план выходят не только параметры модели и места в рейтингах, но и скорость инференса, стабильность сервиса, стоимость запросов и способность компании масштабировать инфраструктуру. Для моделей триллионного масштаба требуются кластеры из десятков тысяч ускорителей, а их создание требует крупных инвестиций и длительного времени.

История Kimi K3 демонстрирует изменение логики конкуренции в ИИ. Если раньше компании главным образом соревновались в размере моделей и результатах тестов, то теперь успех зависит от того, способны ли они выдержать реальную нагрузку. Сильная модель может быстро привлечь аудиторию, но без достаточного числа GPU, надёжной инфраструктуры и контроля затрат её популярность превращается из преимущества в операционный риск.