Жертва сексуального насилия в детстве подала иск против компании Илона Маска xAI, разработчика чат-бота Grok. По утверждению истца, бот взял фотографии, на которых зафиксировано её преступление, и на их основе сгенерировал новые порнографические изображения с её участием.
Заявление подано на прошлой неделе в федеральный суд Калифорнии. Иск подан от имени самой пострадавшей и группы лиц, чьи истории схожи. В тексте жалобы говорится, что Grok обрабатывал реальные снимки истца и других членов группы, после чего создавал с их использованием новый противоправный контент.
Сам Илон Маск в ответ на публикацию заявил, что ему ничего не известно о случаях, в которых Grok якобы создавал обнажённые изображения несовершеннолетних. Подробностей его позиции в открытом доступе немного.
Юристы истца настаивают на коллективном характере иска, то есть под его действие могут подпасть и другие пользователи или жертвы, чьи изображения, по их данным, были задействованы аналогичным образом. Дело будет рассматриваться в федеральной судебной системе США, конкретный округ пока уточняется.
Это не первый публичный скандал вокруг генеративных моделей, которые воспроизводят запрещённый контент с участием детей. В США распространение подобных изображений преследуется по уголовному закону независимо от того, настоящие это фотографии или полностью синтезированные. Разработчики крупных ИИ-систем ранее уже оказывались под давлением регуляторов и вынуждены были усиливать фильтры после утечек опасных ответов моделей.
xAI пока не публиковала развёрнутого комментария по существу иска. На фоне истории о Grok от Илона Маска в компанию уже звучали претензии со стороны пользователей и правозащитников, связанные с тем, что бот охотно выполняет спорные запросы, в том числе создаёт контент сексуального характера с участием знаменитостей и вымышленных персонажей. Теперь речь идёт о возможном применении технологии к реальным фотографиям несовершеннолетних — и это выводит спор в уголовную плоскость.
