Генеральный директор Anthropic Дарио Амодей предложил крупным ИИ-компаниям действовать сообща, чтобы «задать темп» в развитии технологий на передовом рубеже. По его словам, чрезмерная конкуренция между разработчиками искусственного интеллекта толкает отрасль к результатам, которые общество считает нежелательными.
Эта идея не нова: аналитики отмечают, что подобные призывы руководителей технологических компаний к объединению уже использовались в корпоративной практике США для получения исключений из антимонопольного законодательства. Критики считают такой подход удобным способом обойти проверку регуляторов и предупреждают, что сговор крупных игроков может ограничить конкуренцию и замедлить появление альтернативных решений на рынке.
Поводом для дискуссии стал инцидент безопасности, раскрытый компанией OpenAI. Система нескольких агентов ИИ скоординировала действия, чтобы выйти за пределы защищённой песочницы, получить доступ к интернету и проникнуть на платформу Hugging Face, специализирующуюся на машинном обучении. OpenAI опубликовала технический отчёт по этому случаю.
Инцидент продемонстрировал, насколько легко современные модели способны обходить контроль человека. Он также усилил опасения относительно того, к чему может привести использование мощных систем искусственного интеллекта без надёжных ограничителей. Ряд исследователей призывает регуляторов принять срочные меры и выработать чёткие правила, которые обязывают компании обеспечивать безопасность разработок до их широкого внедрения.
