Развитие искусственного интеллекта всё чаще ставит вопрос не о мощности моделей, а о власти: кто определяет ценности ИИ, его ограничения и цели? Пока технологии создаются в условиях жёсткой коммерческой и геополитической конкуренции, ответ на этот вопрос становится особенно важным.

Один из исследователей этой проблемы — философ Иасон Габриэль, работавший в DeepMind. Ещё в 2020 году он сформулировал ключевую мысль: выравнивание ИИ с человеческими ценностями — это не только инженерная задача.

Невозможно просто выбрать «правильную» систему ценностей и встроить её в алгоритм, потому что общество само состоит из людей и групп с разными, а иногда несовместимыми представлениями о справедливости, свободе, безопасности и благополучии.

Традиционно в дискуссии об ИИ существуют два подхода. Сторонники AI Safety сосредоточены на риске появления слишком автономных и мощных систем, которые могут начать оптимизировать неверно заданные цели.

Сторонники AI Ethics, напротив, напоминают о уже существующих проблемах: дискриминации алгоритмов, непрозрачности решений, нарушении приватности, концентрации власти и усилении социальных предубеждений.

На практике эти вопросы нельзя разделить. ИИ может быть технически безопасным, но несправедливым. Он может выполнять команды пользователя, но причинять вред другим людям. Может защищать коммерческие интересы разработчика, ограничивая интересы общества. Поэтому Габриэль предлагает рассматривать выравнивание как отношения сразу между четырьмя сторонами: системой ИИ, пользователем, разработчиком и обществом.

Это особенно важно для агентов — ИИ, которые не только отвечают в чате, но и действуют от имени человека: бронируют услуги, управляют данными, совершают операции, взаимодействуют с программами и организациями. Ошибка такого агента — уже не просто неточный ответ, а действие в реальном мире.

Однако философские и этические вопросы разворачиваются на фоне другой реальности: крупнейшие компании вкладывают сотни миллиардов долларов в ИИ-инфраструктуру, а государства рассматривают ИИ как стратегический ресурс. В таких условиях разработчики испытывают давление рынка, конкурентов, инвесторов и властей. Этические команды могут предупреждать о рисках, но не всегда способны определять, будет ли продукт выпущен, где применён и кто получит к нему доступ.

Поэтому вопрос «чему должен следовать ИИ?» нельзя оставлять только инженерам или корпорациям. Он связан с устройством демократии, защитой данных, правилами использования ИИ в военной сфере, доступом к инфраструктуре и распределением экономической выгоды.

Искусственный интеллект не является нейтральным инструментом. Он отражает выборы тех, кто формирует данные, задаёт цели, определяет допустимые действия и контролирует доступ к технологии. Чем глубже ИИ входит в образование, медицину, работу, управление и личную жизнь, тем важнее, чтобы эти решения принимались не в закрытых кабинетах нескольких компаний.

Главный вызов эпохи ИИ — не заставить машину выполнять человеческие команды. Гораздо сложнее решить, какие именно человеческие ценности она должна учитывать и кто имеет право сделать этот выбор.