OpenAI, Anthropic и их соперники активно расширяют программу внутренней безопасности своих моделей. Основными направлениями стали проведение дорогостоящих независимых экспертиз, публикация результатов бенчмаркинга и сотрудничество с внешними аудиторами. Эти действия призваны показать прозрачность процессов и снизить риски, связанные с непредсказуемым поведением базовых языковых моделей.
При этом многие эксперты выражают обеспокоенность тем, что такие меры могут замедлить инновации. Аналитик компании, специализирующейся на регуляторных вопросах, подчеркнул, что "усиление контроля над развитием моделей может стать путём к регуляторному захвату". Это мнение вызвало дискуссию среди инвесторов и исследователей.
Самостоятельно по себе усиление работы по безопасности не представляет угрозы для развития индустрии, однако масштаб и скорость таких проектов вызывают вопросы. Крупные игроки заявляют, что эти усилия необходимо для формирования доверия со стороны заказчиков и соответствия требованиям нового законодательства. Баланс между безопасностью и быстрым прогрессом останется центральной темой дебатов в ближайшем будущем.
