После почти двух лет молчания стартап Safe Superintelligence, созданный Ильёй Суцкевером после ухода из OpenAI, может представить свою первую модель. Поводом для таких ожиданий стал пост партнёра венчурного фонда a16z Мартина Касадо, заявившего, что он получил доступ к новой системе, которую назвал, возможно, самым важным релизом года. Название модели он не раскрыл, однако ряд косвенных сигналов указывает именно на SSI.

Компания была основана в 2024 году Ильёй Суцкевером вместе с Дэниелом Гроссом и Дэниелом Леви. В отличие от большинства игроков рынка, SSI изначально отказалась от гонки за регулярными обновлениями, публичными рейтингами и массовыми продуктами.

Её единственная заявленная цель — создание безопасного сверхинтеллекта. Этот подход Суцкевер описывал как «масштабирование в тишине»: компания предпочитает не демонстрировать промежуточные результаты, а сосредоточиться на фундаментальной исследовательской работе.

Такая закрытость не помешала SSI привлечь огромный интерес инвесторов. Стартап, не представивший коммерческого продукта и не раскрывавший выручку, получил многомиллиардное финансирование и высокую оценку.

Недавнее стратегическое партнёрство с Nvidia также стало важным сигналом: SSI должна получить доступ к новому поколению вычислительной инфраструктуры, а значит, её команда, вероятно, считает, что уже располагает результатами, которые имеет смысл масштабировать.

Главная интрига вокруг возможной модели связана с непрерывным обучением. По неподтверждённым сообщениям, SSI могла добиться прогресса именно в этой области. Для современных языковых моделей это один из наиболее сложных нерешённых вопросов.

Обычно модель обучается на большом массиве данных, затем фиксируется и используется в готовом виде. Если же начать регулярно добавлять ей новые знания и навыки, возникает риск так называемого катастрофического забывания: усвоив новую задачу, система может ухудшить результаты в уже освоенных областях.

Суцкевер не раз подчёркивал, что современные модели всё ещё слабо обобщают знания по сравнению с человеком. Они способны перерабатывать огромные объёмы информации и превосходить людей в отдельных задачах, но не умеют столь же быстро учиться на небольшом числе примеров, обратной связи и практическом опыте.

В качестве образа желаемой системы он приводил умного пятнадцатилетнего подростка: тот не рождается врачом, программистом или инженером, но может постепенно освоить профессию, оказавшись в реальной среде и продолжая учиться.

Если SSI действительно приблизилась к созданию модели, которая может безопасно накапливать знания после запуска, последствия могут оказаться значительными. Тогда изменится привычная схема развития ИИ, в которой модель долго обучают, выпускают, а затем заменяют новой версией после очередного масштабного цикла тренировок. Однако пока все заявления о возможностях новой системы остаются на уровне ожиданий и косвенных сигналов.

Именно поэтому возможный релиз SSI вызывает такой интерес. Рынок ждёт не просто ещё одну мощную языковую модель, а ответ на более фундаментальный вопрос: можно ли создать искусственный интеллект, который будет не только применять уже усвоенные знания, но и надёжно учиться дальше, не теряя себя в процессе.