Губернатор штата Нью-Йорк подписал закон, регулирующий использование чат-ботов с искусственным интеллектом в приложениях, доступных детям. Документ вводит требования к безопасности для компаний, чьи сервисы с ИИ-собеседниками могут использовать несовершеннолетние пользователи.
Суть закона сводится к тому, что разработчики чат-ботов обязаны принимать меры предосторожности, когда системой пользуется ребёнок. Речь идёт о приложениях, где ИИ ведёт диалог с пользователем и может имитировать живое общение. Подобные сервисы стремительно набирают популярность, и регуляторы всё чаще обращают внимание на риски, связанные с длительным контактом детей с такими программами.
Закон не запрещает саму технологию. Он устанавливает рамки: компании должны выстраивать продукты так, чтобы взаимодействие ребёнка с ботом не наносило вреда. Конкретные механизмы контроля в исходном сообщении не раскрываются, однако сама логика документа предполагает, что ответственность за безопасность несовершеннолетних ложится на разработчиков, а не на родителей.
Вместе с основным законом губернатор подписал ещё один документ — он касается безопасности подключённых видеонянь, то есть камер, через которые родители следят за младенцами. Такие устройства работают через интернет и подключаются к смартфонам, а значит, потенциально уязвимы для несанкционированного доступа. Новый закон направлен на то, чтобы усилить защиту этих устройств: производители должны обеспечивать надёжную защиту данных и каналов связи.
Оба документа объединяет общая тема — безопасность детей в среде, где физические и цифровые устройства всё теснее переплетаются. Чат-боты с ИИ и видеоняни относятся к разным категориям продуктов, но в обоих случаях ребёнок оказывается перед устройством, которое собирает данные, ведёт передачу информации и остаётся вне прямого контроля взрослого в каждый конкретный момент.
Подписанные законы вступят в силу после предусмотренных процедурных сроков. Для компаний, работающих на рынке Нью-Йорка, это означает необходимость пересмотреть подходы к проектированию продуктов: проверять возраст пользователей, ограничивать функции, потенциально опасные для детей, и документировать меры защиты. Штат Нью-Йорк традиционно выступает одним из наиболее активных американских регионов в сфере регулирования технологий, и принятые документы могут задать ориентир для других штатов.
Для семей практический эффект будет заметен в первую очередь в интерфейсах привычных сервисов: приложения с ИИ-собеседниками, вероятно, получат дополнительные предупреждения и ограничения для младших пользователей, а видеоняни — более строгие стандарты защиты подключения. Насколько строгим будет контроль на практике, покажет реализация закона и реакция компаний, которым предстоит привести продукты в соответствие с новыми требованиями.
