Разработчик искусственного интеллекта Anthropic заключил соглашение с консалтинговой компанией Accenture для проведения сторонней оценки безопасности своих моделей. Как сообщается, это первый шаг в реализации плана генерального директора по замедлению темпов развития ИИ.

Anthropic — компания, известная своей работой над безопасными и интерпретируемыми системами ИИ, в частности над моделью Claude. Привлечение внешнего аудитора — часть более широкой стратегии, направленной на снижение потенциальных рисков, связанных с передовыми разработками. Accenture, в свою очередь, имеет опыт в области технологического консалтинга и управления рисками, что делает её подходящим партнёром для подобных проверок.

Согласно заявлению компании, независимая оценка позволит получить объективную картину о том, насколько безопасны и предсказуемы её системы. Это особенно важно на фоне растущих опасений экспертов и регулирующих органов по поводу возможных негативных последствий внедрения мощных ИИ-моделей.

Генеральный директор Anthropic Дарио Амодеи ранее неоднократно подчёркивал необходимость осторожного подхода к развитию ИИ. Он призывал к введению пауз в обучении сверхмощных систем и к созданию механизмов контроля. Выбор Accenture — практический шаг в этом направлении, который может стать образцом для других компаний отрасли.

Ожидается, что результаты оценки будут использованы для доработки моделей и улучшения систем безопасности. В Anthropic подчёркивают, что сотрудничество с Accenture — не разовая акция, а часть долгосрочной стратегии, которая будет расширяться по мере развития технологий.

Эксперты отмечают, что подобные инициативы могут повысить доверие к ИИ-индустрии в целом, особенно в условиях, когда правительства разных стран разрабатывают законодательство в этой сфере. Однако некоторые скептики сомневаются, что добровольные меры достаточны, и призывают к обязательным стандартам.

Тем не менее, решение Anthropic привлечь внешних аудиторов — значимый прецедент. Оно показывает, что даже ведущие игроки рынка признают необходимость дополнительного контроля. Возможно, в ближайшее время аналогичные шаги предпримут и другие крупные лаборатории ИИ.

На данный момент детали контракта и сроки проведения оценки не раскрываются. Известно лишь, что работа начнётся в ближайшие месяцы. Anthropic также планирует публиковать отчёты о результатах проверок, чтобы обеспечить прозрачность процесса.