Группа исследователей искусственного интеллекта призвала замедлить темпы разработки. Причина — передовые модели начинают участвовать в создании следующего поколения ИИ, и это порождает опасения гонки, которая способна всё больше разгоняться сама по себе.
До недавнего времени разработка новых моделей оставалась преимущественно человеческой задачей. Учёные проектировали архитектуру, подбирали данные, тестировали гипотезы. Сегодня крупнейшие системы уже способны помогать в этих процессах: предлагать варианты архитектуры, анализировать результаты экспериментов, генерировать код. С каждым поколением объём работы, передаваемой моделям, растёт.
Сам по себе этот переход не является катастрофой. Однако в условиях конкурентной гонки между лабораториями он меняет риски. Если одна из сторон ускорит разработку за счёт автоматизации, остальным придётся догонять — наращивая темпы в ущерб безопасности. Возникает эффект саморазгона: каждый новый цикл делает следующий быстрее, а контроль над процессом — слабее.
Именно этот сценарий побудил часть исследователей публично выступить за замедление. Их аргумент прост: скорость, с которой создаются новые системы, уже опережает способность общества оценить последствия. Автоматизация разработки лишь сужает окно для осмысления рисков.
Пока нет подтверждённых случаев, когда модель сама инициировала создание следующей версии без участия человека. Но тенденция прослеживается — и она достаточна, чтобы изменить дискуссию. Ранее призывы к замедлению воспринимались как осторожность. Теперь к ним добавляется обоснованная тревога о том, что гонка может выйти из-под управления.
