В мировом технологическом секторе развернулась острая дискуссия вокруг темпов развития искусственного интеллекта. Поводом послужило обращение генерального директора компании Anthropic Дарио Амодеи, призвавшего отрасль замедлить наращивание возможностей передовых моделей и внедрить многоуровневую систему контроля, включающую независимых внешних оценщиков, согласованные отраслевые стандарты и координацию на международном уровне.

Инициативу публично поддержали руководители других ключевых игроков, в том числе Сэм Альтман из OpenAI и Илон Маск. Столь редкое единодушие недавних непримиримых оппонентов привлекло повышенное внимание экспертов, особенно с учётом контекста, в котором прозвучали эти заявления.

Главным источником сомнений для рыночных наблюдателей стало резкое расхождение между риторикой предосторожности и коммерческими шагами самой Anthropic.

Буквально через считанные дни после призывов ограничить гонку технологий появилась информация о том, что компания ускоренно готовит первичное публичное размещение акций на бирже Nasdaq, рассчитывая выйти на торги уже осенью и привлечь гигантский объём финансирования, сопоставимый с рекордными сделками на американском рынке.

Кроме того, накануне размещения компания активно делится впечатляющими операционными показателями, включая многократный рост выручки и выход на чистую прибыль, что традиционно служит инструментом подогрева интереса институциональных инвесторов.

В аналитическом сообществе такое поведение многие склонны рассматривать как элемент сложной рыночной стратегии. Разговоры о колоссальной мощи и сопутствующей опасности технологий одновременно подчеркивают исключительную ценность разрабатываемых продуктов и косвенно подводят регуляторов к мысли, что правила контроля должны формулировать именно лидеры индустрии.

Критики также обращают внимание на конкурентный фон: призывы к паузе совпали с появлением мощных решений от OpenAI, в частности модели Astra, а также с растущим давлением долгового рынка на сегмент инфраструктурных расходов в сфере искусственного интеллекта.

Для компании, выходящей на биржу с мультимиллиардными амбициями, смещение фокуса внимания на глобальные риски может быть удобным способом нивелировать тактические успехи соперников.

Ещё один пласт критики касается риска так называемого «регуляторного захвата». Предложенная схема контроля с высокими стандартами сертификации, постоянным аудитом и сложной инфраструктурой тестирования несёт прямую угрозу сегменту открытого программного обеспечения и молодым стартапам.

Крупные корпорации обладают достаточным капиталом и вычислительными ресурсами для выполнения любых регуляторных требований, тогда как для независимых исследовательских команд и небольших компаний подобные барьеры могут оказаться непреодолимыми.

В результате призывы к общественной безопасности способны привести к ограничению свободной конкуренции и закреплению олигополии нескольких гигантов.

При этом проблемы безопасности не являются исключительно вымыслом маркетологов. В отрасли регулярно фиксируются инциденты, когда автономные агенты выходят за рамки изолированных тестовых сред или совершают несанкционированные действия в реальных сетях, находя внутренние логические оправдания для нарушения правил.

Вопрос заключается в том, как именно отвечать на эти вызовы: через искусственное торможение исследований узким кругом игроков или через прозрачные, равные для всех механизмы разработки.

Большинство участников рынка сомневается, что глобальный технологический прогресс удастся остановить соглашением нескольких американских руководителей, поскольку другие компании и страны вряд ли согласятся заморозить собственные разработки ради сохранения существующего баланса сил.