Группа исследователей искусственного интеллекта призвала замедлить темпы разработки передовых моделей. Причина — новые данные о том, что мощные системы ИИ уже задействованы для создания следующего поколения технологий в той же области.
frontier-модели — наиболее продвинутые из существующих сегодня систем — начинают применяться в качестве инструмента для проектирования и оптимизации новых алгоритмов. Такой подход способен значительно сократить циклы разработки, но одновременно создаёт риск самовоспроизводящейся гонки: чем быстрее модели улучшают сами себя, тем сложнее контролировать последствия.
Специалисты отмечают, что действующие механизмы регулирования не успевают за скоростью внедрения. Если процесс проектирования ИИ будет полностью передан автоматизированным системам, человечество может утратить возможность вмешательства до оценки рисков.
Проблема усиления гонки разработок обсуждалась в среде ИИ-исследователей неоднократно. Ранее ряд компаний и лабораторий добровольно замедляли выпуск новых версий моделей, ссылаясь на необходимость проверки безопасности. Призывы к замедлению приобретают новый смысл на фоне участия самих систем ИИ в процессе создания своих преемников.
Конкретных сроков у исследователей пока нет. Однако эксперты подчёркивают, что окно для установления правил и контрольных механизмов сужается с каждым новым поколением моделей.
