Генеральный директор компании Pangram, специализирующейся на разработке инструментов для проверки контента, высказался о необходимости большей прозрачности в использовании искусственного интеллекта. В своём выступлении он отметил, что способность обнаруживать контент, созданный ИИ, иногда воспринимается как «сверхспособность». Однако он задаётся вопросом о последствиях, если такие инструменты не будут работать безошибочно.

По его мнению, общество выработало привычку к «AI slop» — низкокачественному или массово сгенерированному контенту, который заполняет интернет. Чтобы противостоять этому, глава Pangram предлагает «выставить напоказ» эту привычку, сделав использование ИИ более заметным. Конкретная идея заключается в том, чтобы внедрить систему обязательной или широко распространённой маркировки материалов, созданных с помощью искусственного интеллекта.

Это предложение поднимает вопрос о доверии к информации в цифровую эпоху. Инструменты детекции ИИ-контента, включая те, что разрабатывает Pangram, призваны помогать пользователям и платформам отличать человеческое творчество от машинного. Но их надёжность не абсолютна. Ложные срабатывания или, наоборот, пропуск ИИ-текста могут подрывать доверие к таким системам. Публичная маркировка могла бы снять часть этой нагрузки с алгоритмов детекции, переложив ответственность на создателей контента.

Инициатива затрагивает широкий спектр областей: от журналистики и образования до развлекательного контента и социальных сетей. Внедрение подобной системы потребовало бы координации между технологическими компаниями, законодателями и платформами для распространения контента. Это также вызвало бы дискуссии о приватности создателей и о том, как такая маркировка может повлиять на восприятие работы, даже если ИИ использовался лишь как вспомогательный инструмент.

В настоящее время некоторые платформы, такие как YouTube* или TikTok, уже вводят правила маркировки синтетического медиа. Однако подход Pangram, судя по заявлению его CEO, предлагает более универсальное и, возможно, агрессивное решение, направленное на то, чтобы сделать масштабы использования ИИ очевидными для всех. Развитие этой идеи будет зависеть от реакции технологического сообщества и регуляторов по всему миру.

  • — компания Meta Platforms* Inc., владеющая Facebook* и Instagram*, признана экстремистской организацией, её деятельность запрещена на территории РФ.