Все говорят об «решениях на основе ИИ» как о более объективных и рациональных — но так ли это? ИИ не избавлен от человеческих предвзятостей — он их наследует и во многих случаях усиливает.

Классическая экономическая наука и поведенческая финансовая теория расходятся в оценке рациональности человека. Поведенческая школа, опираясь на работы Канемана, Талера и др., показывает системные отклонения в суждениях и решениях — а эти системные сдвиги легко предсказуемы и воспроизводимы. Именно эти «поведенческие паттерны» и становятся «уроками», которые модели ИИ учат у людей.

Анкоринг (эффект якоря)

Сущность: случайный или нерелевантный ориентир смещает оценки.

Наблюдение: поведение моделей различается. В тестах GPT и Gemini демонстрировали устойчивость к якорям, Claude — был немного восприимчив, LLaMA — проявлял анкоринг, близкий к человеческому.

Чрезмерная уверенность (Overconfidence)

Сущность: люди дают слишком узкие интервалы доверия и переоценивают точность своих прогнозов.Наблюдение: Claude чаще даёт широкие интервальные оценки (более «смирёнен»), GPT — средний уровень, а Gemini — склонен к узким (чрезмерно уверенным) интервалам.

Нежелание проигрыша (Loss aversion)

Сущность: потери ощущаются сильнее, чем равные по величине выигрыши.Наблюдение: GPT действует более «математически рационально», ориентируясь на ожидаемое значение; Claude иногда демонстрирует поведение, близкое к потереантимотивации; Gemini заметно «боится» рисков — ещё более, чем средний человек.

Эффект фрейминга (Framing)

Сущность: вариант формулировки (позитивная или негативная подача) меняет выбор.Наблюдение: почти все тестируемые LLM сильнее людей чувствительны к формулировке запроса — отсюда и популярность «prompt engineering»: задав фрейм, можно существенно сместить результат.

Эффект стада (Herd effect / алгоритмический резонанс)

Сущность: люди ориентируются на поведение большинства.Наблюдение: у ИИсистем проявление «стада» может быть ещё более жёстким: многие модели обучаются на схожих данных и подчас сходятся к одинаковым реакциям, что при массовом развертывании создаёт каскадные ошибки (например, навигация, которая одновременно перенаправляет тысячи машин на одну дорогу).

Оптимистичный сценарий: по мере эволюции моделей статистические выводы (вероятностные оценки) становятся точнее — и это так. Пессимистичная цель: поведенческие и предпочтительные искажения (оценка рисков, моральные и ценностные суждения) часто не уменьшаются, а иногда и усиливаются.

Главная причина — RLHF (обучение с подкреплением на основе человеческой обратной связи): модель усваивает манеры и предпочтения людей вместе с их биасами, а затем их масштабирует. Кроме того, явление «схлопывания предпочтений» (preference collapse) означает, что при донастройке модель «подхватывает» доминирующие, частые реакции и подавляет редкие, но важных отличающихся голосов.

Практические советы: как разумно использовать ИИ при принятии решений

Не воспринимайте ИИ как полностью объективного советчика.

Для чисто логических задач (математика, статистика) ИИ можно доверять больше; для решений, связанных с риском, этикой или предпочтениями — применяйте скепсис и проверку.

Используйте ИИ как «песочницу поведения».

Модели полезны для симуляций: тестируйте, как разные аудитории отреагируют на кампанию, цену или продуктовую концепцию.

Защититесь от усиления собственных предубеждений.

ИИ склонен «поддакивать» пользователю. Для ключевых решений привлекайте несколько моделей с разной архитектурой (multimodel check) и независимые человеческие ревью.

Формулируйте запросы так, чтобы заставить модель мыслить «критически».

В prompt включайте требование «перечислите возможные когнитивные ошибки, проверьте решение с противоположной точки зрения», просите модель приводить контраргументы и альтернативные сценарии.

ИИ не нейтрален по определению — он наследует и реплицирует поведенческую «эпистему» общества, а иногда и усиливает её. Разумное и безопасное использование ИИ требует осознанности: четкого разграничения задач, где машина действительно лучше человека, от тех, где человеческая осознанность и ценностные суждения незаменимы; использования моделей как инструментов симуляции, а не окончательных арбитров; и явного внедрения процедур кросспроверки и аудита.