Передовые модели искусственного интеллекта уже начинают участвовать в создании следующего поколения ИИ-систем. Это породило новые опасения в исследовательском сообществе: гонка за созданием наиболее мощных алгоритмов может превратиться в самоподдерживающийся цикл, который будет разгоняться всё быстрее.
Суть проблемы проста. Современные крупные модели — так называемые frontier-модели — способны помогать исследователям в написании кода, анализе архитектурных решений и оптимизации экспериментов. Ранее эту работу выполняли люди, тратя месяцы на отбор гипотез и проверку идей. Если значительную часть этих задач берут на себя сами ИИ-системы, скорость разработки может резко возрасти.
Именно этот сценарий вызывает тревогу у части специалистов. Когда каждое новое поколение моделей создаётся с помощью предыдущего, разрыв между поколениями сокращается, а темпы улучшений растут. Исследователи получают инструмент, который делает саму исследовательскую работу эффективнее, но это означает и более быстрое приближение к возможностям, которые общество пока не готово оценить.
Призывы замедлить разработку в этой связи исходят не от критиков технологий, а от людей, которые работают в поле непосредственно. Их аргумент — не против ИИ как такового, а против гонки, в которой конкуренция между лабораториями вытесняет время на проверку безопасности и оценку рисков. Замедление, по их мнению, не остановит прогресс, но даст возможность выработать механизмы контроля, успевающие за скоростью изменений.
Спор вокруг темпов разработки ИИ продолжается уже несколько лет. Компании, работающие с передовыми моделями, настаивают на необходимости быстрой интеграции новых возможностей в продукты, тогда как часть исследователей предупреждает о недостаточном внимании к последствиям. Появление моделей, способных участвовать в собственном создании, добавляет в эту дискуссию новый и сложный для разрешения элемент.
