OpenAI подтвердила, что на протяжении нескольких недель сотрудничает с конкурентами — Anthropic и Google DeepMind — в области безопасности искусственного интеллекта. Об этом журналистам сообщил глобальный политический директор компании Крис Лихейн. Он выступил с комментариями в Вашингтоне, где работал с законодателями над вопросами катастрофических рисков ИИ.
Его заявление последовало за эссе главы Anthropic Дарио Амодея, в котором тот призвал индустрию коллективно замедлить разработку пограничных моделей ИИ, чтобы избежать катастрофических последствий. Сэм Альтман из OpenAI, Демис Хассабис из Google и Илон Маск публично выразили поддержку этому предложению. Альтман сообщил, что OpenAI присоединится к Anthropic во внедрении сторонних оценщиков, которые будут контролировать безопасность изнутри каждой компании.
Лихейн уточнил, что трём компаниям не требуется государственная отмена для продолжения координации, несмотря на опасения, в том числе со стороны Альтмана, что такое сотрудничество может привлечь антимонопольное внимание, если его воспримут как попытку подавить конкуренцию. По имеющимся данным, компании также работают над созданием отраслевого стандартного органа. Эту идею Хассабис выдвигал ещё в июле как способ фильтрации передовых моделей и координации замедления при росте рисков.
Кроме того, OpenAI поддерживает положение в законопроекте FRONTIER Act, которое потребует от лабораторий пограничных моделей допускать независимые организации для оценки практик безопасности. При этом президент Дональд Трамп отверг опасения по поводу небезопасности ИИ, предупредив, что замедление разработки принесёт выгоду Китаю.
