Генеральный директор стартапа Pangram Эндрю Спинк (Andrew Spink) заявил о планах создать инструмент, который будет публично маркировать контент, созданный искусственным интеллектом. По его словам, это должно «обнажить привычку всех к ИИ-помоям». В интервью для издания The Verge Спинк пояснил, что его компания работает над браузерным расширением, способным определять тексты, написанные нейросетями, и помечать их для других пользователей.
Спинк сравнил детекцию ИИ с суперспособностью, но задался вопросом о последствиях, если такие инструменты окажутся не столь надёжными, как кажется. Он отметил, что текущие системы определения ИИ-контента часто работают с ошибками, что может приводить к ложным срабатываниям и несправедливым обвинениям. Однако его подход заключается не в скрытой проверке, а в открытой маркировке, которая сделает масштабы использования генеративного ИИ очевидным для всех.
Идея проекта родилась из наблюдений за дискуссиями в интернете, где пользователи часто обвиняют друг друга в использовании текстов от ChatGPT и других языковых моделей, но не могут этого доказать. Инструмент от Pangram, по задумке, должен снять эту неопределённость. Расширение будет анализировать текст на веб-страницах, в социальных сетях и на форумах, и, если обнаружит признаки генерации ИИ, добавит рядом с ним соответствующую пометку — например, значок или подпись.
Спинк признаёт, что технология не будет идеальной. Ложные срабатывания, когда человеческий текст будет помечен как машинный, и пропуски реального ИИ-контента неизбежны. Тем не менее, он считает, что даже несовершенная система сможет продемонстрировать, насколько широко нейросети уже проникли в онлайн-коммуникацию. Это, по его мнению, может стимулировать более осознанное отношение к контенту как у создателей, так и у потребителей.
Стартап Pangram ранее уже привлекал внимание своими проектами в области анализа текста. Новая инициатива пока находится на ранней стадии разработки. Команда изучает различные методы детекции, включая анализ стилистических паттернов, статистических аномалий и «водяных знаков», которые некоторые модели ИИ могут оставлять в тексте. О конкретных сроках выпуска публичной версии расширения или его интеграции с крупными платформами пока не сообщается.
Реакция на заявление Спинка в профессиональном сообществе неоднозначна. Одни эксперты поддерживают идею прозрачности, считая, что это поможет бороться с дезинформацией и плагиатом. Другие выражают скептицизм, указывая на технические сложности точного определения и этические вопросы публичной маркировки, которая может быть использована для травли или дискредитации авторов. Сам Спинк подчёркивает, что цель проекта — не наказание, а создание фактологической основы для обсуждения будущего цифрового контента.
