Компания Pangram, развивающая систему обнаружения текстов, сгенерированных нейросетями, обращает внимание на системную проблему: инструменты проверки всё чаще оказываются в роли догоняющих. Генеративный контент уже проникает в отзывы на товары, заявки на вакансии и страховые обращения — там, где раньше предполагался только человеческий ввод.

По словам сооснователя и CEO Pangram Макса Сперо, рынок детекторов пока не справляется с этой задачей так, как от него ожидают. Большинство существующих сервисов работают по принципу «угадал — не угадал» и плохо переносятся между разными тематиками: модель, обученная на академических эссе, почти бесполезна при проверке коротких маркетинговых текстов, а детектор для художественной прозы даёт сбои на технической документации. Это одна из главных причин, по которым надёжного «универсального определителя» до сих пор нет.

Дополнительная сложность — в быстром развитии самих языковых моделей. Каждое крупное обновление закрывает часть признаков, по которым детекторы прежних поколений вычисляли машину: более ровный ритм фраз, характерные повторы, предсказуемую структуру абзаца. Новые версии генеративных систем сознательно «разрывают» эти шаблоны, имитируя живые отступления и шероховатости человеческой речи, что обнуляет усилия разработчиков детекторов.

Сперо также указывает на экономический аспект. Стоимость генерации одного абзаца текста стремится к нулю, тогда как цена ошибки детектора — высока: ложное обвинение соискателя в использовании ИИ или, наоборот, пропущенный машинный отзыв оборачивается репутационными и финансовыми потерями. Поэтому Pangram делает ставку не на бинарный ответ «человек/машина», а на вероятностную оценку с указанием признаков, которые повлияли на вывод, — чтобы решение оставалось за человеком.

Отдельная тема — обучение на собственных данных. Чтобы детектор не дрейфовал вместе с каждой новой моделью, его приходится регулярно дообучать на свежих примерах. По сути, это гонка вооружений: выход крупного обновления у одного из разработчиков ИИ требует немедленной реакции у всех, кто занимается проверкой. В Pangram рассчитывают выйти из этой гонки за счёт более широких обучающих выборок и моделей, способных улавливать не отдельные маркеры, а общий «почерк» генерации.

На фоне роста числа фейковых отзывов, поддельных заявок и страховых случаев с использованием ИИ компании всё чаще ищут внешние инструменты верификации. Однако, по оценке Сперо, до появления по-настоящему надёжного универсального детектора отрасли ещё далеко — и ближайшие годы пройдут под знаком постоянной подстройки правил проверки.