Генеральный директор компании Pangram, занимающейся разработкой систем обнаружения искусственного интеллекта, заявил о намерении сделать публичными данные о том, как часто люди используют ИИ для создания текстов. По его словам, «скрытое» применение генеративных моделей подрывает доверие в академической среде, бизнесе и журналистике. Он предлагает внедрить механизм, который будет помечать любой контент, созданный с помощью нейросетей, и показывать эту информацию всем пользователям.
Идея вызвала неоднозначную реакцию. Сторонники инициативы утверждают, что прозрачность поможет бороться с плагиатом и дезинформацией. Противники же указывают на техническое несовершенство детекторов ИИ: они могут ошибочно маркировать человеческие тексты как машинные, а также пропускать хорошо замаскированный AI-сгенерированный контент. «Обнаружение ИИ часто кажется суперсилой, но что, если оно не всегда безошибочно?» — задаётся риторическим вопросом сам CEO.
Пока неизвестно, какие именно данные собирается публиковать Pangram. Не исключено, что речь идёт о чекерах в реальном времени для платформ вроде соцсетей, образовательных порталов или новостных агрегаторов. Однако этическая сторона вопроса остаётся открытой: готовы ли пользователи к тотальному контролю над каждым своим текстом?
По оценкам экспертов, доля контента, полностью или частично созданного ИИ, уже составляет от 5% до 20% в разных сегментах интернета. С ростом доступности GPT-подобных моделей эта цифра будет только увеличиваться. Поэтому попытка Pangram сделать «невидимое видимым» может стать важным прецедентом в дискуссии о регулировании ИИ.
Компания не раскрывает сроки запуска такого сервиса, но пообещала представить прототип в ближайшие месяцы. Событие, скорее всего, вызовет новую волну споров о приватности, точности технологий и ответственности за применение нейросетей.
