Генеральный директор и сооснователь стартапа Pangram, Шон Макгуайр, объявил о запуске проекта, цель которого — наглядно показать, как часто люди используют тексты, созданные искусственным интеллектом. В интервью изданию The Verge он пояснил, что идея возникла из-за разочарования в существующих инструментах для обнаружения AI-контента.
Макгуайр считает, что текущие детекторы, позиционируемые как надёжный способ отличить человеческий текст от машинного, часто работают некорректно. Они могут пропускать AI-генерацию или, наоборот, ошибочно помечать оригинальный человеческий текст как созданный нейросетью. По его словам, это создаёт ложное чувство уверенности у пользователей.
Проект Pangram, получивший рабочее название «AI Slop Exposer», планирует собирать и публиковать примеры текстов, которые, по мнению системы, с высокой вероятностью были сгенерированы ИИ. Акцент будет делаться на контенте из публичного поля: посты в социальных сетях, комментарии, возможно, некоторые виды новостных материалов. При этом сам стартап признаёт, что его методология также не может претендовать на стопроцентную точность.
«Мы хотим сместить фокус с вопроса „Как детектировать ИИ?“ на вопрос „Как часто люди на самом деле его используют?“», — заявил Макгуайр. Он надеется, что такая публичная визуализация заставит общество более критично относиться к потоку информации в интернете и обсуждать этические нормы использования генеративных моделей.
Инициатива уже вызвала дискуссию. Критики указывают на риски, связанные с возможными ошибками в определении авторства и последующим публичным осуждением. Также поднимается вопрос о конфиденциальности и согласии пользователей, чьи тексты могут быть проанализированы и выставлены на всеобщее обозрение. В Pangram на это отвечают, что будут работать только с публично доступными данными и стараться минимизировать риски ложных срабатываний.
Стартап Pangram ранее был известен своими разработками в области инструментов для работы с текстом. Новый проект пока находится на ранней стадии, и его точные механизмы и масштаб ещё дорабатываются. Тем не менее, заявление его CEO высветило актуальную проблему: в эпоху повсеместного распространения генеративного ИИ границы между человеческим и машинным творчеством становятся всё более размытыми, а инструменты для их определения остаются несовершенными.
