Генеральный директор Pangram выступил с инициативой разработать инструмент, который позволит публично выявлять авторов, систематически использующих тексты, сгенерированные нейросетями. По его словам, рынок контента переполнен так называемым «мусором от ИИ» — материалами, созданными без должного авторского участия.
Компания Pangram специализируется на модерации и проверке цифрового контента. Глава организации утверждает, что технологии обнаружения ИИ-текстов достигли достаточного уровня зрелости для массового применения. Инструмент, о котором идёт речь, предполагает не просто пометку сгенерированных фрагментов, а публичное информирование о том, что автор регулярно прибегает к помощи языковых моделей.
Критики подхода указывают на несколько существенных проблем. Точность детекции остаётся несовершенной: алгоритмы могут ошибаться как в одну, так и в другую сторону. Кроме того, само по себе использование ИИ при написании текстов не нарушает законов в большинстве юрисдикций. Вопрос о том, где именно проходит граница допустимого, остаётся дискуссионным.
Отдельного внимания заслуживает терминология. Понятие «ИИ-мусор» применяется к контенту, который создаётся автоматически в больших объёмах ради наполнения площадок, обхода алгоритмов ранжирования или получения рекламных доходов. Такие материалы часто отличаются поверхностностью, шаблонностью и отсутствием оригинальных исследований.
Позиция руководителя Pangram сводится к тому, что аудитория имеет право знать, когда перед ней текст без реального авторского вклада. По его мнению, прозрачность в этом вопросе заставит создателей контента более ответственно подходить к использованию языковых моделей.
Вопрос о надёжности подобных инструментов действительно непрост. Исследования показывают, что современные детекторы ИИ-текстов допускают значительный процент ошибок, особенно при работе с короткими фрагментами или адаптированными материалами. Это означает, что любая публичная система проверки потребует механизмов оспаривания и дополнительной верификации.
В конечном счёте инициатива отражает нарастающее напряжение между автоматизацией создания контента и запросом на подлинное авторство. Как именно общество и индустрия отреагируют на предложение Pangram, покажет время.
