Губернатор Калифорнии Гэвин Ньюсом подписал указ, который обязывает экспертную группу разработать новые меры безопасности для передовых моделей искусственного интеллекта. Документ, подписанный на этой неделе, предусматривает создание специальной панели, которая займется оценкой рисков, связанных с развитием ИИ, и предложит конкретные механизмы защиты. В числе обсуждаемых мер — так называемый «аварийный выключатель» — возможность экстренного отключения систем ИИ в случае непредвиденных сбоев или опасного поведения.

Указ Ньюсома стал продолжением активной политики штата в области регулирования технологий. Калифорния, где расположены штаб-квартиры многих крупнейших ИИ-компаний, включая OpenAI и Anthropic, традиционно задает стандарты для всей страны. Эксперты отмечают, что новый указ направлен на упреждающее реагирование на потенциальные угрозы, которые могут возникнуть по мере усложнения алгоритмов. Речь идет не только о технических сбоях, но и о возможных злоупотреблениях со стороны разработчиков или использовании ИИ во вред обществу.

Согласно тексту документа, экспертная группа должна представить свои рекомендации в течение ближайших месяцев. Ожидается, что в нее войдут специалисты по этике ИИ, инженеры, представители академического сообщества и правозащитники. Им предстоит определить, при каких условиях допустимо применять экстренное отключение, а также разработать стандарты тестирования передовых моделей перед их выпуском на рынок. Отдельное внимание будет уделено вопросам прозрачности: пользователи должны понимать, когда они взаимодействуют с ИИ, и какие данные используются для обучения алгоритмов.

Инициатива Ньюсома вызвала неоднозначную реакцию. Представители технологических компаний в целом поддержали стремление к безопасности, но предупредили об излишнем регулировании, которое может замедлить инновации. В то же время правозащитные организации приветствовали шаг губернатора, назвав его важным прецедентом для всей страны. Похожие законопроекты уже рассматриваются на федеральном уровне, однако Калифорния действует быстрее, что объясняется ее особым статусом в технологической экосистеме.

Эксперты напоминают, что идея «аварийного выключателя» не нова — подобные механизмы обсуждались в научной фантастике и академических кругах на протяжении десятилетий. Однако до сих пор ни один штат не предпринимал конкретных шагов по их внедрению. Если рекомендации группы будут реализованы, Калифорния станет первой юрисдикцией в мире, где экстренное отключение ИИ станет обязательным требованием для разработчиков. Это может повлиять на глобальный рынок, поскольку многие компании работают по всему миру и вынуждены будут учитывать новые правила.

Остается неясным, как именно будет технически реализован механизм отключения, особенно в случае распределенных систем, которые не имеют единого центра управления. Разработчикам предстоит найти баланс между безопасностью и функциональностью, чтобы не парализовать работу полезных сервисов. Пока же указ Ньюсома носит рамочный характер — детали предстоит проработать экспертной группе. Сам губернатор назвал это «первым шагом на пути к ответственному развитию ИИ» и пообещал внимательно следить за ходом работы.

Для Калифорнии это не первый опыт регулирования ИИ: в прошлом году здесь приняли закон о прозрачности алгоритмов, а также ограничения на использование технологий распознавания лиц. Новый указ дополняет эту линейку, делая акцент на безопасности. По мнению аналитиков, успех инициативы будет зависеть от того, насколько быстро и эффективно экспертная группа сможет предложить работающие решения. В противном случае документ рискует остаться декларативным, что подорвет доверие к действиям властей штата.