Anthropic продолжает идти своим необычным путём: вместо чисто технического подхода к развитию ИИ компания всё активнее привлекает религиозных мыслителей и теологов, пытаясь встроить в модели не просто правила, а полноценные моральные системы.

По данным СМИ, Anthropic организовала закрытые встречи в Сан-Франциско с представителями разных традиций — от конфуцианства и даосизма до ислама, индуизма и христианства.

Обсуждения выходят далеко за рамки стандартной «AI safety»:

как ИИ должен реагировать на сложные моральные запросы пользователей (например, темы самоповреждения);

может ли ИИ обладать «моральной ответственностью»;

есть ли у моделей нечто вроде «ценности» за пределами инструмента.

Anthropic пытается решить проблему глубже, чем просто фильтры и правила — фактически речь идёт о формировании «совести» у ИИ.

Центральная фигура — католический священник Брендан Макгуайр.Его биография символична:

в 1980–90-х — успешный технарь в Кремниевой долине, дошёл до уровня топ-менеджмента;

затем ушёл в монашество и провёл десятилетия в церковной службе;

после бума ИИ снова оказался вовлечён в технологическую индустрию — уже как эксперт по этике.

Сейчас он сотрудничает с Anthropic и помогает «обучать» модели через тексты и сценарии, формируя у них этическое мышление через итерации и корректировки — почти как reinforcement learning, но с моральным содержанием.

Главная причина — разочарование в прежних подходах, особенно в идеологии эффективного альтруизма (EA), который:

чрезмерно утилитарный («считать пользу» любой ценой);

спорные и радикальные идеи внутри сообщества;

связь с громкими скандалами (например, история SBF).

На этом фоне Anthropic, ищет более «проверенные временем» системы — а именно религиозные этические традиции с тысячелетней историей.

Речь идёт не просто о дискуссиях. Эти идеи уже применяются:

при разработке принципов поведения моделей (например, «Claude principles»);

в аргументации против военного использования ИИ;

в формировании позиций по вопросам слежки и автономного оружия.

Например, религиозные эксперты подчёркивают:

передача решений машине разрушает человеческую ответственность;

автономное оружие противоречит базовым принципам справедливой войны;

массовое наблюдение через ИИ подрывает субъектность человека.

Anthropic фактически признаёт: технических решений недостаточно, чтобы сделать ИИ «безопасным».

Поэтому компания делает ставку на неожиданный источник — религию как «готовую библиотеку этики», проверенную веками.

Но за этим стоит более глубокий кризис всей индустрии:старые идеологии не справляются, новые ещё не сформированы, а развитие технологий идёт слишком быстро.

И в этой ситуации вопрос звучит уже не как инженерный, а как философский:кто и на основе каких ценностей будет учить ИИ быть «хорошим»?