Тема рекурсивного самоулучшения искусственного интеллекта, еще недавно считавшаяся скорее теоретической концепцией, постепенно становится частью практической разработки современных AI-систем. Об этом в последние месяцы все чаще говорят руководители ведущих исследовательских лабораторий, включая генерального директора Google DeepMind Демиса Хассабиса.

По словам Хассабиса, сегодня практически все крупнейшие AI-компании работают над автоматизацией исследований и созданием систем, способных помогать в разработке следующих поколений моделей. Однако одновременно он признает, что перспектива полного исключения человека из этого цикла вызывает у него серьезные опасения с точки зрения безопасности.

Во время конференции Google I/O Хассабис заявил, что человечество уже находится «у подножия сингулярности», а ближайшие годы могут стать решающими для подготовки к эпохе искусственного общего интеллекта (AGI). Он считает нынешнее развитие AI-агентов своего рода испытанием перед появлением значительно более мощных систем.

Одним из признаков этой тенденции называют так называемое «мягкое рекурсивное самоулучшение». Речь идет не о полностью автономном создании новых моделей ИИ, а о ситуации, когда существующие модели все активнее помогают инженерам разрабатывать, тестировать и совершенствовать программное обеспечение, включая инструменты самого искусственного интеллекта.

Anthropic ранее сообщала, что к маю 2026 года более 80% изменений в ее программном коде создавались при участии Claude. При этом окончательные решения о принятии изменений по-прежнему принимают разработчики, а сама статистика не означает полностью автономную разработку без участия человека.

По данным компании, использование AI значительно повысило производительность инженерных команд. Если ранее на выполнение отдельных задач уходили недели, то теперь многие процессы занимают считанные дни благодаря автоматизации написания, анализа и тестирования кода.

Сооснователь Anthropic Джек Кларк также обращает внимание на изменение характера работы программистов. По его мнению, искусственный интеллект постепенно берет на себя наиболее трудоемкие этапы разработки — поиск ошибок, исправление кода и оптимизацию. Это позволяет специалистам сосредоточиться на постановке задач и контроле результатов.

Однако именно ускорение процесса разработки вызывает вопросы у исследователей безопасности. Если системы начнут самостоятельно проектировать и совершенствовать новые поколения ИИ, скорость технологического прогресса может существенно возрасти. В таком случае даже небольшие ошибки в первоначальных целях или ограничениях модели способны со временем привести к непредсказуемым последствиям.

Некоторые исследователи предлагают замедлить наиболее рискованные направления развития и создать механизмы международного контроля за разработкой сверхмощных моделей. В частности, Anthropic ранее выступала с инициативой проверяемых механизмов ограничения развития наиболее передовых AI-систем. Однако добиться подобной координации между крупнейшими игроками отрасли будет непросто, поскольку конкуренция в сфере искусственного интеллекта продолжает усиливаться.

Несмотря на громкие заявления о приближении «сингулярности», специалисты подчеркивают, что пока речь идет прежде всего об ускорении существующих процессов разработки, а не о появлении полностью автономного сверхразумного ИИ. Тем не менее автоматизация исследований и программирования уже становится одним из ключевых направлений развития отрасли и может существенно изменить скорость создания новых технологий в ближайшие годы.