Генеральный директор компании Pangram, специализирующейся на анализе контента, объявил о планах «вывести на чистую воду» всех, кто систематически использует генеративный искусственный интеллект для создания текстов, изображений и другого материала. По его словам, индустрия переполнена так называемым «ИИ-слоком» — низкокачественным, шаблонным контентом, который имитирует человеческое творчество, но лишён глубины и смысла.

В интервью профильному изданию CEO отметил, что детекция синтетического текста долгое время подавалась как «суперсила» — инструмент, способный безошибочно отличить работу человека от машинной поделки. Однако на практике, по его признанию, эти системы далеки от идеала. «Мы хотим показать, что даже самые продвинутые алгоритмы ошибаются: они могут пропустить явный ИИ-текст или, наоборот, ложно обвинить живого автора в использовании нейросети», — пояснил руководитель.

Инициатива Pangram связана с растущей обеспокоенностью по поводу насыщения интернета контентом, созданным нейросетями. По данным внутренних исследований компании, более 40% популярных блогов и коммерческих сайтов в тематических нишах содержат фрагменты, сгенерированные большими языковыми моделями. При этом значительная часть такого материала публикуется без значимой человеческой редактуры, что снижает доверие читателей и усложняет работу поисковых систем.

Pangram намерена запустить публичную карту «ИИ-слепых зон» — перечень типовых сценариев, где детекторы регулярно дают сбой. Компания также планирует выпустить бесплатный инструмент для самопроверки, который позволит авторам и редакторам оценить риск ложного срабатывания их материалов.

Эксперты по цифровой этике приветствуют шаг Pangram, но предупреждают: без прозрачности самих детекторов и единых стандартов борьба с ИИ-слоком может превратиться в «охоту на ведьм». «Главная проблема не в том, что кто-то использует ИИ, а в том, что этот факт скрывают. Если компания действительно хочет оздоровить среду, ей нужно не только разоблачать, но и предлагать этичные альтернативы», — прокомментировал представитель Центра цифровых прав.

Пока неизвестно, когда именно Pangram представит свой доклад и открытые данные. Однако сам анонс уже вызвал бурную дискуссию в профессиональных сообществах: одни ждут «встряски» рынка контент-услуг, другие опасаются, что несовершенство детекторов лишь усилит хаос и приведёт к необоснованным обвинениям авторов, которые добросовестно используют нейросети для вспомогательных задач.

Напомним, что разработчики крупнейших языковых моделей, включая OpenAI и Google, неоднократно заявляли о невозможности создания абсолютно точного детектора. Технология так называемых «водяных знаков» для ИИ-текстов всё ещё находится на стадии экспериментов, а существующие коммерческие сервисы (вроде GPTZero, Originality.ai) имеют высокий процент ошибок на коротких или переписанных фрагментах.

Таким образом, попытка Pangram «разоблачить привычку к ИИ-слоку» может обернуться не только скандальными разоблачениями, но и серьёзным разговором о том, как мы вообще определяем границу между помощью инструмента и заменой автора.