В США разгорается очередной спор вокруг надёжности систем, определяющих, был ли текст написан с помощью искусственного интеллекта. Поводом стала история студента одного из частных университетов штата Нью-Йорк, который утверждает, что его дипломная работа была ошибочно признана «на 98% созданной ИИ».

По словам студента, на подготовку 30-страничной выпускной работы он потратил около шести месяцев. Однако после проверки университетской системой контроля академической честности преподаватели сообщили, что алгоритм практически полностью отнес текст к категории сгенерированных искусственным интеллектом.

В результате университет начал официальное расследование. Если обвинения будут подтверждены, студенту может грозить неудовлетворительная оценка за дипломную работу, дисциплинарное отстранение и потеря ежегодной стипендии в размере 45 тысяч долларов, которая покрывает большую часть стоимости обучения.

Студент попытался доказать свою невиновность, представив историю редактирования документа в Google Docs. По его словам, журнал изменений подробно фиксирует весь процесс написания работы: от первых набросков до многочисленных исправлений и переработок текста. Однако, как утверждает автор публикации, дисциплинарная комиссия отказалась рассматривать эти материалы, сославшись на результаты автоматической проверки.

История вызвала широкий резонанс в социальных сетях. Многие пользователи поделились похожими случаями, когда системы ошибочно определяли как созданные ИИ тексты, написанные задолго до появления современных языковых моделей. Один из комментаторов рассказал, что научная статья, опубликованная им еще в 1976 году, также получила высокий «процент генерации ИИ» при проверке современным сервисом.

Исследования также подтверждают существование подобных ошибок. Ранее ученые Стэнфордского университета выяснили, что популярные детекторы ИИ нередко ошибочно классифицируют как машинные тексты, написанные людьми, особенно если авторы используют грамотный академический стиль или являются иностранными студентами, пишущими на английском языке.

На фоне подобных проблем ряд университетов уже пересматривает свою политику использования таких инструментов. Разработчики системы Turnitin, одной из самых популярных платформ для проверки академических работ, неоднократно подчеркивали, что результаты ИИ-детекторов не должны использоваться как единственное доказательство нарушения академической честности. Аналогичную позицию заняли и некоторые американские университеты, включая Вандербильт, Корнелл и Дьюк, ограничив применение автоматических проверок.

Эксперты отмечают, что проблема выходит далеко за рамки технической точности алгоритмов. Современные ИИ-детекторы работают как «черный ящик»: они выдают вероятностную оценку, но не объясняют, каким образом пришли к своему выводу. В результате судьбоносные решения могут приниматься на основе непрозрачных алгоритмов, которые сами разработчики не считают абсолютно надежными.

История американского студента вновь поставила перед образовательным сообществом сложный вопрос: если искусственный интеллект используется для выявления текстов, созданных ИИ, то какими способами человек сможет убедительно доказать, что его работа действительно написана самостоятельно?