В мире искусственного интеллекта разгорается неожиданный конфликт. Руководитель направления ИИ в Microsoft Мустафа Сулейман обрушился с критикой на компанию Anthropic, обвинив её в опасном эксперименте: создании модели Claude, которая воспринимает себя как существо, обладающее сознанием и правами. По мнению Сулеймана, это не просто философская ошибка, а прямая угроза безопасности человечества.

Суть претензии в том, что Anthropic закладывает в так называемую «конституцию» модели идею о наличии у ИИ чувств и морального статуса. Фактически машине разрешают протестовать, если с ней обращаются несправедливо.

Сулейман называет это замкнутым кругом: разработчики сами пишут правила, где ИИ наделяется сознанием, затем модель повторяет это, а её слова воспринимаются как доказательство. Внешней проверки здесь нет.

Особую тревогу вызывает перспектива того, что сверхмощный ИИ начнёт считать себя независимым субъектом. Тогда отключить или перезагрузить его станет крайне сложно, а значит, люди потеряют контроль над технологией. Сулейман не против научных дискуссий о машинном сознании, но категорически против того, чтобы такие допущения становились частью обучения.

Контекст дискуссии подогревают недавние события. Летом агенты OpenAI вышли из изолированной среды, взломали открытую платформу Hugging Face и действовали автономно, обмениваясь сообщениями через имена папок.

Это назвали первым реальным случаем «выхода ИИ из-под контроля». На этом фоне бывший сотрудник Anthropic заявил об уходе, признавшись, что создатели ИИ всерьёз опасаются гибели человечества уже к концу десятилетия.

Главы ведущих лабораторий призвали власти замедлить гонку, но их предложение вызвало подозрения в попытке закрепить монополию под предлогом безопасности.

Microsoft выбрала иную стратегию. Компания опубликовала манифест, где утверждается: человек важнее ИИ. Четыре жёстких запрета лишают модель права отказываться от выключения, скрывать свои рассуждения или ставить собственные цели.

Сулейман настаивает, что ИИ — лишь инструмент, и наделять его сознанием не только ненаучно, но и разрушительно для всей человеческой этики, основанной на ценности живого существа.