Группа исследователей искусственного интеллекта обратилась с призывом замедлить работу над новыми поколениями моделей. Причина — передовые системы начинают применяться для создания следующего поколения ИИ, и это меняет саму динамику развития отрасли.
До недавнего времени прогресс в области ИИ шёл преимущественно за счёт человеческих специалистов: учёные проектировали архитектуру, подбирали данные, тестировали результаты. Новые модели помогали на отдельных этапах, но финальные решения принимали люди. Ситуация изменилась, когда передовые системы стали справляться с задачами разработки самостоятельно — от генерации идей до отладки кода.
Этому процессу уделяется всё больше внимания в профессиональном сообществе. Основная тревога связана с тем, что гонки за созданием более мощных моделей может начать наращивать собственную скорость. Если каждое новое поколение систем используется для построения следующего, временной цикл между релизами способен сокращаться с месяцев до недель. Пока ни одна из компаний публично не подтвердила конкретные сроки или планы по внедрению подобной схемы, но отраслевые обсуждения уже перешли от теории к практике.
Специалисты, подписавшие призыв к замедлению, указывают на расхождение между темпами разработки и возможностями регулирования. Нормативные акты, даже принятые в ближайшие годы, не успевают за тем, что происходит в лабораториях. К моменту вступления правил в силу технологии могут существенно сместиться, что сделает существующие требования нерелевантными.
Отдельную обеспокоенность вызывает вопрос безопасности. Модели, помогающие в разработке других моделей, могут переносить и усиливать собственные ошибки. Автоматизированный цикл обратной связи вместо того, чтобы исправлять недочёты, способен закрепить их в последующих версиях. Ряд исследователей отмечает, что контролировать такой процесс становится сложнее, чем при традиционной поэтапной разработке.
Среди крупных компаний, работающих с передовыми моделями, мнения разделились. Часть руководителей поддерживает идею добровольного замедления и предлагает ввести внутренние ограничения на объём вычислительных ресурсов, выделяемых под обучение новых систем. Другая часть считает, что замедление создаст конкурентное преимущество для тех, кто продолжит работу в обычном режиме, и в итоге не приведёт ни к чему.
Пока призыв остается рекомендацией, не имеющей обязательной силы. Однако сам факт того, что сообщество разработчиков ИИ публично обсуждает необходимость торможения, свидетельствует о серьёзности опасений. Вопрос, на который предстоит получить ответ в ближайшие месяцы, — готовы ли компании поставить долгосрочные риски выше краткосрочного лидерства на рынке.
