С развитием нейросетей мы привыкли к тому, что на любой вопрос можно получить мгновенный сценарий или совет. Однако в последнее время пользователи все чаще сталкиваются с пугающим явлением — «галлюцинациями» ИИ. Уровень недостоверности ответов порой становится настолько невыносимым, что люди начинают скучать по временам классического поиска.

В начале 2024 года шведская исследовательница провела эксперимент: она выдумала болезнь «Bixonimania» и загрузила статью о ней в сеть. Вскоре ChatGPT и Gemini начали подтверждать существование этого недуга, давая пользователям вполне «солидные» медицинские советы.

Сегодня это выходит за рамки шуток. Пользователи жалуются, что нейросети выдумывают названия жилых комплексов, которых нет на карте, или рекомендуют книги с захватывающими аннотациями и ссылками, которые ведут в никуда. Когда ИИ начинает «сочинять на ходу», он не просто ошибается — он вводит людей в заблуждение, заставляя их принимать неверные решения.

Почему это происходит? Ответ кроется в источниках информации. Если раньше ИИ просто обучался на открытых данных, то сегодня появилась целая индустрия «отравления» ИИ (GEO — Generative Engine Optimization).

За небольшие деньги злоумышленники наполняют сеть убедительными текстами о несуществующих товарах. Нейросеть поглощает этот мусор и начинает рекомендовать подделки как высококачественные продукты.

Как бороться с этой «интеллектуальной деградацией»? Решение — в возвращении к авторитетным источникам. Исследования показывают, что использование проверенных баз знаний (например, энциклопедий) повышает точность ответов ИИ более чем на 38%.

Лидеры поисковых систем, такие как Baidu, уже внедряют новые архитектуры. Вместо того чтобы просто генерировать текст, система сначала фильтрует информацию через «агентов планирования» и «агентов проверки». Это позволяет давать не просто быстрый, а «завершенный» ответ, где каждое слово можно подтвердить ссылкой на первоисточник.

Сегодня доверие к ИИ строится на двух уровнях: архитектурном (как не допустить ошибку) и управленческом (что делать, если ошибка произошла). Внедрение жесткого контроля контента — от многократной проверки фактов до мгновенного удаления фейков — становится стандартом.

В будущем победит не тот ИИ, который говорит быстрее или красивее, а тот, чьим словам можно доверять. Пока же пользователям остается старый проверенный метод: если ответ ИИ кажется подозрительным, лучше по старинке «прогуглить» его в надежном источнике.