Google DeepMind опубликовал 57страничный доклад «From AGI to ASI», где группа во главе с Шейном Леггом и Маркусом Хаттером прокладывает маршрут от искусственного общего интеллекта (AGI) к искусственному суперинтеллекту (ASI).

Главная идея отчёта проста и одновременно тревожна: AGI — не конец пути, а отправная точка; масштабирование экземпляров и вычислительных мощностей способно породить ASI даже без радикальной смены алгоритмической парадигмы. Полный отчёт доступен на arXiv.

Краткая суть

AGI определяется как система, достигающая человеческого медианного уровня по широкому набору когнитивных задач.

ASI — это уровень, при котором система стабильно превосходит «десятки тысяч топэкспертов», согласованно работающих над одной задачей в течение десяти лет.

DeepMind утверждает: запуск и масштабирование большого числа AGIэкземпляров (например, от 1 000 до 1 000 000 000 при экспоненциальном росте вычислительных мощностей) и/или ускорение их «скорости мышления» может привести к коллективному эффекту, эквивалентному ASI.

Первый раздел доклада называется «Summary Instructions» — документ явно рассчитан не только на людей, но и на AIассистентов, которым предлагается автоматически суммировать отчёт и проверять выводы. Это отражает особую эпоху: авторы ожидают, что ИИ будет непосредственным потребителем научных текстов.

Четыре «золотых» пути к ASI

Масштабирование (compute, model, data): продолжать экспоненциально наращивать вычисления и тиражировать экземпляры AGI. По мысленному эксперименту — тысяча экземпляров при ежегодном росте в 10× становится миллионом за три года и сотней миллионов за пять, что по коллективной мощности эквивалентно ASI.

Парадигмальный скачок: новая архитектура или обучение, отличная от предобучение+микронастройка Transformerпарадигмы.

Мультиагентные системы и коллективная эмерджентность: сотни миллионов совместно работающих AGI, синхронно обменивающихся знаниями, могут породить сверхорганизованный «цифровой коллективный разум».

Рекурсивное самосовершенствование (RSI): AI, самостоятельно улучшающий архитектуру, код и даже аппаратное обеспечение, что может ускорить экспоненциальный рост возможностей.

DeepMind выделяет шесть потенциально критических барьеров, «если они станут абсолютными»:

Стена данных — исчерпание высококачественных человеческих текстов и других ценных тренинговых ресурсов.

Ресурсная стена — энергетические, вычислительные и чиповые ограничения; рост затрат, который экономика проектов не покроет.

Увеличение сложности исследований — «низко висящие плоды» уже собраны; для новых прорывов потребуется всё больше усилий.

Парадигмальная стена — нынешняя предобучение→микронастройка может оказаться потолком.

Социальнополитическая «тормозная» стена — регулирование, общественное противодействие, отключение мощностей по соображениям безопасности.

Абстрактная (философская) стена — критическая мысль отчёта: может ли ИИ, обученный только на человеческих текстах, открыть фундаментальные новые концепты (напр., создать теорию на уровне Ньютона) без человеческой настройки? Если нет, это ограничит автономность мыслительного прогресса отдельного экземпляра; но не исключает прорыв через массовость и коллективность.

Доклад подчёркивает не только «числовой» эффект. Однородный пул AGIэкземпляров обладает несколькими уникальными преимуществами:

мгновенная бесшовная репликация знаний и состояний;

высокая скорость коммуникации и обмена «пониманием» через высокоразмерные представления;

способность распараллеливать научные и инженерные задачи на невиданном ранее уровне;

возможность ускорять «мыслительный» темп (времясжатие), делая год человеческой работы задачей продолжительностью дни или часы для AGI.

Именно эти эффекты доклад называет основой перехода от AGI к ASI без «чудаалгоритма».

Технологии развиваются так, что сценарии быстрого развития collectiveAI становятся правдоподобны: даже при отсутствии кардинального алгоритмического рывка социальные и экономические эффекты масштабирования могут породить ASIподобные свойства.

В то же время риски массового развертывания огромного числа AGI (без надлежащего контроля, audit, redteaming и регуляторных механизмов) крайне высоки.

Политики и исследователи должны учитывать не только «единичный» AGI, но и его коллективные эффекты: лицензирование, пределы по вычислениям, обязательные независимые проверки и стратегии по сдерживанию «рекурсивного самосовершенствования».

DeepMind не заявляет, что ASI уже здесь; но они показывают правдоподобную дорожную карту, где ASI — не мистический скачок, а следствие масштабирования, ускорения и координации множества AGIэкземпляров. Одновременно отчёт честно перечисляет барьеры, которые могут всё остановить. Это — предупреждение и руководство: будущее зависит не только от алгоритмов, но и от ресурсов, институций и человеческих решений, которые направят или ограничат этот процесс.