Исследователь Anthropic Андрей Карпати считает, что современная индустрия искусственного интеллекта слишком увлеклась разработкой ИИ-агентов, не уделяя достаточного внимания развитию самих базовых языковых моделей. Об этом он заявил во время выступления перед разработчиками агентных систем, где его слова вызвали активное обсуждение в профессиональном сообществе.

По мнению Карпати, одна из главных ошибок сегодняшнего этапа развития ИИ заключается в стремлении как можно быстрее заставить агентов выполнять сложные задачи, тогда как фундаментальные возможности больших языковых моделей еще продолжают активно развиваться. Именно качество базовой модели, считает он, в конечном итоге определяет возможности любых надстроек.

В качестве примера Карпати вспомнил собственный опыт работы в OpenAI в середине 2010-х годов. Тогда команда занималась проектом World of Bits — платформой, на которой ИИ должен был самостоятельно пользоваться веб-сайтами, управляя клавиатурой и мышью для выполнения повседневных задач, например покупки авиабилетов или оформления заказов.

Несмотря на публикацию научной статьи, проект не стал успешным. По словам исследователя, в то время технологии просто не были готовы к реализации подобных идей: основным инструментом оставалось обучение с подкреплением, возможностей которого оказалось недостаточно.

Оглядываясь назад, Карпати считает, что более правильным решением было сосредоточиться на развитии языковых моделей, а не пытаться преждевременно создавать сложных агентов. Спустя несколько лет именно прогресс в области больших языковых моделей открыл путь к современным агентным системам.

Исходя из этого опыта, исследователь сформулировал несколько рекомендаций для разработчиков. Во-первых, он советует не стремиться сразу создавать универсальных агентов, а уделять первоочередное внимание совершенствованию фундаментальных моделей.

Во-вторых, Карпати напоминает, что эффектные демонстрации не следует путать с готовыми продуктами. Он сравнил нынешнюю ситуацию с историей беспилотных автомобилей и виртуальной реальности: впечатляющие демонстрации появились задолго до того, как технологии стали пригодны для массового использования, а путь от прототипа до коммерческого продукта занял около десяти лет.

Еще одной темой выступления стало устройство интеллектуальных систем. Карпати предложил разработчикам внимательнее изучать достижения нейронауки, рассматривая человеческий мозг как источник идей для архитектуры будущих ИИ-агентов. По его мнению, вопросы памяти, выбора действий и координации процессов внутри агентных систем могут получить новые решения благодаря аналогиям с работой различных областей мозга.

Вместе с тем Карпати отметил, что именно область ИИ-агентов сегодня остается одной из наиболее открытых для инноваций. Если в разработке больших языковых моделей крупнейшие компании уже накопили многолетний опыт и обладают значительным преимуществом, то направление агентных систем пока находится на раннем этапе развития. Поэтому независимые исследователи, стартапы и небольшие команды имеют реальные шансы предложить новые подходы и оказаться в числе лидеров.

Таким образом, основная мысль выступления заключается не в критике самих ИИ-агентов, а в призыве соблюдать последовательность развития технологий. По мнению Карпати, долгосрочный успех в этой области будет зависеть не столько от количества новых демонстраций, сколько от качества фундаментальных моделей, на которых строятся будущие интеллектуальные системы.