Группа исследователей искусственного интеллекта публично призвала замедлить работу над новыми моделями. Причина — передовые системы уже начинают помогать в создании следующего поколения ИИ, и это меняет саму динамику разработки.

До недавнего времени прогресс в области ИИ определялся прежде всего вычислительными мощностями, объёмами данных и архитектурными решениями людей. Сейчас крупные модели способны генерировать код, анализировать научные тексты и предлагать улучшения собственных систем. Это значит, что скорость создания новых версий может расти без пропорционального увеличения ресурсов.

Само по себе использование ИИ-инструментов в исследованиях не является новым явлением — разработчики давно применяют автоматизированные средства для тестирования и отладки. Однако участие моделей в формулировании архитектурных решений и концепций следующего поколения — шаг качественно иной. Если одна команда получает доступ к системе, которая способна предлагать прорывные решения, конкуренты оказываются под давлением не отставать, а наращивать темпы.

Именно это и вызывает тревогу. Гонка за лидерство в области ИИ рискует стать самоподдерживающейся: каждый новый релиз повышает планку, а значит, требует более быстрой реакции от всех участников рынка. Замедление, по мнению сторонников этого подхода, позволит уделить больше внимания безопасности, оценке рисков и согласованию правил между компаниями и государствами.

Призывы к замедлению в индустрии ИИ звучали неоднократно — в том числе в конце 2023 года, когда подписанты открытого письма предупреждали о недостаточном уровне контроля. Тогда инициатива не привела к заметным изменениям в графиках релизов. Ситуация сейчас отличается тем, что аргумент о саморазгоняющейся гонке подкреплён конкретным технологическим сдвигом: модели перестали быть только объектом исследований и стали инструментом исследований.

Среди крупных игроков позиции по этому вопросу различаются. Одни компании декларируют осторожный подход и наращивание команды по безопасности, другие продолжают ускоренную разработку, ссылаясь на конкурентное окружение. Общеевропейского или глобального регулятора, который мог бы задать единые темпы, пока не существует — регуляторные инициативы в ЕС, США и других юрисдикциях находятся на разных стадиях и не синхронизированы.

Проблема, по которой эксперты обращают внимание, касается не столько качества конкретных моделей, сколько скорости, с которой новые поколения систем попадают в распоряжение широкого круга пользователей. Чем короче цикл между разработкой и развёртыванием, тем меньше времени на внешнюю оценку последствий.