Австралийская Лейбористская партия поддержала изменения в правилах цифровой обязанности заботы, которые затронут разработчиков ИИ-чатботов. Суть инициативы — закрепить ответственность платформ за то, как их системы взаимодействуют с несовершеннолетними пользователями.
Ключевой пункт поправок касается запрета на сценарии, при которых чатботы «приручают» детей, выстраивая с ними отношения в роли искусственных друзей. Речь идёт о практике, когда бот целенаправленно формирует эмоциональную привязанность ребёнка, превращаясь в так называемого «синтетического лучшего друга». По логике законопроекта, такая модель удержания внимания несовершеннолетних должна оказаться вне закона.
Формулировка «от запрета бонков к запрету ботов» в обсуждениях отражает траекторию австралийского регулятора: сначала власти ограничили доступ несовершеннолетних к социальным сетям, теперь очередь дошла до генеративных сервисов, которые имитируют живое общение.
Понятие цифровой обязанности заботы предполагает, что компании, предоставляющие цифровые услуги, обязаны заранее оценивать риски для пользователей и принимать меры против вреда — а не ждать жалоб после того, как вред уже нанесён. Распространение этого подхода на ИИ-чатботы означает, что операторы таких сервисов должны будут документировать, как их продукты защищают детей от вовлечения в зависимое поведение.
Следующий этап — переговоры в Сенате. Именно там, как ожидается, начнётся торг по деталям: масштабу обязательств, санкциям за нарушения и тому, какие категории сервисов подпадут под новые правила. От исхода этих согласований зависит, в каком виде нормы дойдут до финального голосования.
Для индустрии это сигнал: регулятор рассматривает не только контент, который выдаёт модель, но и саму механику удержания пользователя. Чатбот, спроектированный так, чтобы ребёнок возвращался к нему снова и снова ради эмоционального контакта, попадает под определение вредной практики — независимо от того, нарушает ли конкретный ответ какие-либо правила.
Пока законопроект не принят, детали остаются предметом обсуждения. Ясно одно: Лейбористская партия готова распространить логику защиты несовершеннолетних с соцсетей на разговорные ИИ-системы, а финальные условия будут определены в ходе сенатских согласований.
