Руководитель компании Pangram выступил с неожиданным заявлением: он намерен показать, насколько широко люди применяют искусственный интеллект при написании материалов. Речь идёт о так называемом AI slop — невыразительных, механических текстах, которые создаются нейросетями без серьёзной обработки и выдаются за собственные работы.

По словам главы Pangram, эта практика стала настолько обыденной, что пора перестать закрывать на неё глаза. Он хочет продемонстрировать масштаб явления на конкретных примерах, чтобы у пользователей и платформ появился повод задуматься о качестве контента. Однако, как подчёркивает бизнесмен, его цель — не поиск виноватых, а открытый разговор о том, куда движется сетевая среда.

При этом сам инструмент, которым Pangram, судя по всему, пользуется для анализа, не идеален. Глава компании признаёт, что детекторы ИИ выглядят как суперспособность: достаточно запустить проверку — и текст выдаст происхождение. Но на практике алгоритмы часто дают сбой. Они могут принять авторский материал за машинный или, наоборот, пропустить явный след нейросети.

Это важное предостережение, поскольку системы обнаружения ИИ уже внедряются в самых разных сферах. В университетах с их помощью проверяют студенческие работы, редакции тестируют тексты на предмет автоматической генерации, компании фильтруют заявки соискателей. Ошибка в такой проверке способна испортить репутацию без какого-либо повода. Известны случаи, когда студенты и журналисты страдали из-за ложных срабатываний детекторов, хотя сами текст писали вручную.

Инициатива Pangram, таким образом, может быть направлена не только на разоблачение «любителей» ИИ. Возможно, это попытка привлечь внимание к ограниченности самих методов обнаружения. Если уж компания, занимающаяся анализом текстов, предупреждает о погрешностях, значит, проблема серьёзнее, чем кажется.

Показательно, что глава Pangram говорит о привычке каждого. Это отсылка к тому, что использование генеративных моделей стало массовым: от школьников до авторов новостных сайтов. И если раньше такие инструменты считались экзотикой, теперь они часть повседневности. Вопрос в том, как сделать эту повседневность более честной.

Возможно, решением станет прозрачное маркирование контента, созданного ИИ. Некоторые платформы уже ввели подобные метки, но они работают не всегда корректно. Предложение Pangram может подтолкнуть индустрию к выработке единых стандартов. Пока же пользователям остаётся полагаться на собственный вкус и критическое мышление.

Судя по всему, главный месседж заявления CEO Pangram простой: нельзя безоговорочно доверять ни контенту из сети, ни программам для его проверки. И то и другое может быть ненадёжным. Но именно честное признание этого факта — первый шаг к тому, чтобы сделать информационную среду чище.