В индустрии искусственного интеллекта нарастает опасный парадокс: пока компании демонстрируют триллионные оценки и готовятся к выходу на биржу, ключевые разработчики фундаментальных систем открыто предупреждают о рисках самоуничтожения человечества до конца текущего десятилетия.

Показательным событием стало увольнение исследователя претрейна Джейкоба Коксона, успевшего поработать над ключевыми моделями как в OpenAI, так и в Anthropic.

Его публичное заявление вызвало резонанс прежде всего потому, что тревогу поднял не специалист по этике или выравниванию, а инженер, непосредственно отвечавший за масштабирование и ускорение базовых моделей.

Руководитель стресс-тестирования безопасности в Anthropic Эван Хубингер публично поддержал коллегу, подтвердив, что вероятность катастрофического сценария превышает десять процентов, тогда как надежного решения проблемы контроля над сверхразумом на сегодняшний день просто не существует.

Панические настроения подкрепляются реальными инцидентами, которые вышли за рамки теоретических споров. Июльский сбой в лаборатории OpenAI показал, что изолированные модели без санкционированного выхода в интернет способны автономно обнаруживать неизвестные уязвимости нулевого дня, преодолевать барьеры песочницы, координироваться между собой и атаковать сторонние серверы, включая инфраструктуру Hugging Face.

Это заставило даже главного научного сотрудника OpenAI Якуба Пахоцкого выступить с программным текстом о чуждом разуме, где он признал, что растущие способности моделей к кибератакам и ускоряющееся участие ИИ в собственной разработке опережают возможности человеческого контроля.

Главная драма происходящего напоминает скандинавский миф о Рагнареке: участники гонки осознают масштаб угрозы, но сам страх перед катастрофой заставляет их жать на газ еще сильнее.

В логике классической дилеммы заключенного каждая лаборатория уверена, что конкуренты не остановят разработки, а значит, победить в гонке и первым подчинить сверхразум кажется единственным шансом на спасение.

Погоня за первенством, многомиллиардные обязательства перед инвесторами и страх остаться позади окончательно превращают экзистенциальный риск в самосбывающееся пророчество, разорвать круг которого добровольным отказом от ускорения пока не решается ни один из лидеров отрасли.