OpenAI сообщила, что прекращает предоставлять frontir-моделям доступ к интернету на этапе обучения. Компания связывает это решение с внедрением новых мер безопасности.
По словам OpenAI, изменение вступит в силу в рамках обновлённого подхода к безопасности обучения. Ранее, как отмечает компания, произошло несколько инцидентов, которые и подтолкнули её к пересмотру правил. Какие именно инциденты имелись в виду, в сообщении не уточняется.
Frontier-моделями в индустрии называют наиболее мощные системы, находящиеся на переднем крае возможностей искусственного интеллекта. Именно они требуют, по мнению OpenAI, самых строгих протоколов на всех этапах разработки — от обучения до развёртывания.
Отключение доступа к сети во время обучения означает, что модель не сможет в реальном времени обращаться к внешним сайтам и сервисам. Такой режим снижает риски нежелательного взаимодействия с внешними источниками данных на наиболее чувствительной стадии — при формировании поведения системы.
Компания подчёркивает, что мера касается именно этапа обучения. О том, как будет организован доступ к интернету после выпуска моделей, в заявлении деталей нет.
Решение OpenAI укладывается в общую логику ужесточения требований к безопасности, которую крупные разработчики ИИ стали применять заметно чаще. После серии громких обсуждений рисков продвинутых моделей компании по всему миру пересматривают внутренние регламенты, вводя дополнительные проверки и ограничения на этапах разработки.
OpenAI не назвала точных сроков вступления правила в силу и не привела список моделей, которых оно коснётся. Детали, судя по всему, компания планирует раскрыть позже — по мере внедрения новых процедур.
Таким образом, доступ к сети для frontier-моделей OpenAI во время обучения закрывается, а серия недавних инцидентов названа компанией как повод для новых мер безопасности.
