Основатель и генеральный директор компании Anthropic Dario Amodei в публикации в социальной сети X в субботу, 12 сентября, обратился к индустрии искусственного интеллекта с призывом замедлить темпы разработки. Он представил трёхчастный план действий и заявил, что Anthropic в одностороннем порядке возьмёт на себя выполнение первого пункта.
В своём посте Amodei поделился ссылкой на эссе под названием We Must Pace the Frontier («Мы должны задать темп фронтиру»), в котором описал меры по повышению безопасности систем ИИ. Согласно плану, Anthropic предоставит сторонним оценщикам постоянный доступ к своим системам на уровне сотрудников. Это позволит внешним экспертам проверять соблюдение компанией мер безопасности, фиксировать инциденты и анализировать согласованность моделей с заданными параметрами в процессе обучения.
«Мы должны замедлить темп», — отметил Amodei, подчеркнув необходимость внешнего контроля за развитием технологий. По его словам, доступ третьих сторон к внутренним системам компании призван обеспечить прозрачность процесса разработки и снизить риски, связанные с неконтролируемым ростом возможностей ИИ.
Anthropic — компания, специализирующаяся на разработке ИИ, основанная бывшими сотрудниками OpenAI. Среди её продуктов — семейство языковых моделей Claude. Компания позиционирует себя как ориентированную на безопасность альтернативу другим игрокам отрасли. План Amodei, тем не менее, не содержит конкретных сроков и обязательств по ограничению вычислительных мощностей или размера обучающих выборок.
