Google DeepMind запустила новый исследовательский проект — Институт DeepMind. Его задача заключается не столько в непосредственной разработке новых моделей, сколько в изучении того, как искусственный общий интеллект, или AGI, может изменить экономику, науку и общество.

Институт возглавили сооснователь DeepMind Шейн Легг, руководитель Google Джеймс Маника и председатель Google DeepMind Демис Хассабис, лауреат Нобелевской премии по химии.

Сам DeepMind пока не утверждает, что AGI уже создан. В институте признают, что современные системы всё ещё могут ошибаться в простых задачах, а их стабильность и способность к творчеству не соответствуют полной человеческой универсальности. Однако исследователи считают, что разрыв может быть сокращён в ближайшем будущем.

Поэтому основное внимание нового института направлено на вопрос о том, что произойдёт после появления таких систем. Как изменится рынок труда, каким станет распределение доходов, как будут регулироваться автономные AI-системы и какие правила понадобятся для их безопасного использования — эти вопросы DeepMind предлагает рассматривать не только специалистам по технологиям, но и экономистам, философам, исследователям общества и представителям государства.

Первые материалы института посвящены именно этим проблемам. Исследователи рассматривают экономическую политику в эпоху AGI, прозрачность рассуждений AI-моделей и способы контроля их поведения.

Отдельное внимание уделяется тому, насколько важно сохранять возможность понимать ход рассуждений мощных моделей: если AI начнёт скрывать свои намерения или выполнять сложные действия, человеку потребуется способ обнаруживать такое поведение.

Экономический вопрос также становится центральным. Если AI сможет выполнять значительную часть интеллектуальной работы, рост производительности может сопровождаться серьёзными изменениями в занятости, доходах и распределении богатства.

Поэтому авторы института уже обсуждают возможные меры экономической политики, которые позволили бы смягчить последствия такой трансформации.

Для Шейна Легга запуск института имеет особое значение: он занимается проблемой AGI более 25 лет. Теперь исследования выходят за пределы вопроса о том, как создать искусственный общий интеллект. В центре внимания оказывается следующий вопрос: как обществу подготовиться к его появлению.

При этом Институт DeepMind подчёркивает, что опубликованные материалы отражают позиции их авторов и не являются официальной позицией Google. Сам проект задуман как площадка для дискуссии и привлечения исследователей как из Google DeepMind, так и извне.

Таким образом, Google DeepMind фактически начинает готовиться не только к созданию более мощного AI, но и к миру, в котором такие системы станут частью экономики и общества. Вопрос постепенно смещается от технического «можно ли создать AGI?» к практическому «что делать, если он действительно появится?».