Исследователи в области искусственного интеллекта призывают замедлить разработку новых систем. Причина — передовые модели, известные как frontier-модели, уже начинают использоваться для создания следующего поколения ИИ.
Это порождает новый круг опасений: гонка за создание более мощных систем может начать наращивать собственную скорость. Когда одни и те же алгоритмы применяются не только для решения задач, но и для проектирования новых алгоритмов, процесс становится сложнее контролировать.
Frontier-модели — наиболее продвинутые на сегодняшний день системы искусственного интеллекта. Они способны решать сложные аналитические задачи, генерировать код и работать с научными данными. Всё чаще такие модели привлекаются к работе над улучшением архитектуры будущих систем. По сути, инструмент становится соучастником создания следующего инструмента.
Специалисты, которые занимаются изучением безопасности ИИ, видят в этом потенциальную проблему. Если каждое новое поколение моделей будет создаваться при участии предыдущего, разрыв между поколениями может сокращаться. Результат — темпы развития, которые опережают возможности регуляторов и исследователей по оценке рисков.
Именно поэтому часть научного сообщества выступает за замедление. Речь идёт не об остановке разработок, а о введении дополнительных проверок на каждом этапе. Цель — сохранить возможность анализа последствий до того, как новые системы выйдут в широкое использование.
Обсуждение вокруг скорости развития ИИ не ново, но появление моделей, способных участвовать в собственном создании, придаёт ему новое измерение. Ранее основной риск ассоциировался с масштабом использования систем. Теперь к нему добавился риск ускорения самого процесса разработки.
Пока конкретных мер или обязательных стандартов замедления предложено не было. Тем не менее голоса в научном сообществе, требующие осторожного подхода, становятся всё громче.
