По мере стремительного развития искусственного интеллекта все острее встаёт вопрос: способны ли технологические компании учитывать не только технические, но и этические, политические и социальные последствия своих разработок? Ответ на него пытается найти философ Иасон Габриэль — один из ведущих специалистов по этике ИИ в Google DeepMind.

Габриэль пришел в DeepMind в 2017 году, когда идея искусственного интеллекта общего назначения (AGI) еще воспринималась многими как слишком далекая перспектива. Имея образование в области политической философии и опыт работы в международных гуманитарных проектах, он стал одним из первых философов, работающих непосредственно в одной из ведущих лабораторий по созданию ИИ.

По мнению Габриэля, главная задача заключается не только в том, чтобы сделать искусственный интеллект безопасным, но и определить, каким человеческим ценностям он должен следовать. Он отмечает, что современное общество не обладает единой системой моральных принципов, поэтому вопрос «какие ценности должен разделять ИИ?» гораздо сложнее, чем может показаться.

Эта позиция помогает преодолеть противоречие между двумя основными направлениями исследований. Представители AI Safety сосредоточены на предотвращении рисков появления сверхразумного ИИ, тогда как специалисты по AI Ethics уделяют больше внимания уже существующим проблемам — алгоритмической дискриминации, прозрачности решений, защите прав пользователей и влиянию технологий на общество. Габриэль считает, что эти подходы должны дополнять друг друга, а не конкурировать.

После появления больших языковых моделей философ уделил особое внимание феномену антропоморфизации. Современные чат-боты настолько убедительно ведут диалог, что пользователи начинают воспринимать их как полноценных собеседников. Это может приводить к чрезмерному доверию, эмоциональной зависимости и ошибочному восприятию ИИ как личности. По этой причине DeepMind стремится разрабатывать модели, которые не создают иллюзию человеческой природы и не поощряют подобное восприятие.

Еще одним важным направлением работы стала разработка новой концепции выравнивания (alignment). Вместо традиционного понимания, при котором ИИ должен просто следовать заданным инструкциям, команда Габриэля предлагает учитывать интересы сразу четырех сторон: пользователя, разработчика, самой системы и общества в целом. Такой подход позволяет более полно оценивать возможные последствия решений, принимаемых искусственным интеллектом.

По мере приближения эпохи AGI круг обсуждаемых вопросов становится значительно шире. Исследователи анализируют влияние ИИ на экономику, рынок труда, политику, международные отношения и научный прогресс. При этом сама отрасль развивается в условиях жесткой конкуренции между крупнейшими технологическими компаниями и государствами, что существенно усложняет внедрение принципов ответственного развития.

Несмотря на растущее коммерческое давление, Габриэль сохраняет осторожный оптимизм. Он считает, что искусственный интеллект способен ускорить научные открытия, помочь в борьбе с тяжелыми заболеваниями и повысить благосостояние общества. Однако позитивный сценарий возможен лишь в том случае, если человечество сумеет справедливо распределить преимущества новых технологий, минимизировать риски и сохранить контроль над их использованием.

По мнению философа, искусственный интеллект уже перестал быть исключительно инженерной задачей. Сегодня он заставляет заново осмысливать вопросы, которыми философия занимается на протяжении тысячелетий: что такое разум, сознание, ответственность и, в конечном счете, что значит быть человеком. Именно поэтому гуманитарные науки становятся важной частью разработки технологий будущего.