Генеративный искусственный интеллект плотно вошёл в повседневную жизнь: тексты, изображения, код — всё это теперь может быть создано нейросетью за секунды. Однако вместе с удобством пришла и проблема «AI slop» — так называют небрежный, шаблонный или откровенно некачественный контент, который люди выдают за свой. Глава компании Pangram, специализирующейся на анализе текстов и выявлении машинного происхождения материалов, решил покончить с этой практикой.
В интервью изданию он подчеркнул, что намерен «выставить на всеобщее обозрение привычку каждого использовать ИИ для халтуры». По его словам, многие пользователи — от студентов до маркетологов — всё чаще полагаются на нейросети, не утруждая себя доработкой или проверкой фактов. Результат: однотипные статьи, пустые посты в соцсетях и даже целые сайты, наполненные бессмысленным текстом.
Pangram разрабатывает инструменты для обнаружения искусственно созданного контента. CEO компании уверен, что прозрачность в этом вопросе — единственный способ вернуть доверие к информации. «Мы хотим, чтобы люди понимали: если ты используешь ИИ, это не преступление. Но выдавать машинный текст за свой — это обман», — пояснил он.
Однако есть нюанс. Сами детекторы ИИ — технология несовершенная. Они могут ошибаться, принимая человеческий текст за машинный и наоборот. Это ставит под вопрос этичность массового «разоблачения». Если алгоритм Pangram ошибётся, пострадает репутация невиновного человека. CEO признаёт эту проблему, но настаивает: лучше несовершенный контроль, чем полное отсутствие контроля.
Компания уже тестирует свой сервис на нескольких крупных площадках. Ожидается, что в ближайшие месяцы инструмент станет доступен широкой аудитории. Пользователи смогут проверять любой текст на предмет использования ИИ — и, если результат положительный, получать уведомление о возможной неоригинальности.
Критики инициативы указывают на риск создания «охоты на ведьм». В академической среде, например, студентов уже начали обвинять в списывании из-за ложных срабатываний антиплагиата. Если к этому добавить ещё один слой проверки — на AI-генерированный текст, — количество ложных обвинений может вырасти.
Сам CEO Pangram считает, что со временем алгоритмы станут точнее. «Мы не утверждаем, что наше решение идеально прямо сейчас. Но мы хотим начать разговор. Пусть люди знают: AI slop — это реальность, и её нужно обсуждать», — заявил он.
Пока неясно, как именно Pangram планирует внедрять свою систему и будет ли она платной. Но одно уже очевидно: тема детекции ИИ выходит на новый уровень — от технической задачи к этической дилемме. И глава компании намерен сыграть в этом ключевую роль.
