В последние дни в обсуждении безопасности искусственного интеллекта прозвучало несколько резких заявлений. Среди них — оценка в 10% вероятности глобальной катастрофы, связанной с развитием ИИ, утверждение о том, что умные системы представляют бо́льшую опасность, чем ядерное оружие, и предупреждение о «ботнете», способном угрожать всей интернет-инфраструктуре. Часть наблюдателей расценивает эти высказывания как информационную операцию крупных технологических компаний.
The Guardian проанализировал шесть наиболее резонансных тезисов о рисках ИИ и реакции, которые они вызвали. Эксперты расходятся во мнениях: одни призывают замедлить разработку систем искусственного интеллекта до выработки строгих стандартов безопасности, другие считают подобные предупреждения необоснованными и ведущими к ограничению технологического прогресса.
Дискуссия затрагивает как технические аспекты — способность продвинутых моделей действовать вне заданных параметров, — так и экономические и политические измерения. Регуляторы в ряде стран уже рассматривают законодательные ограничения для высокопроизводительных систем, тогда как разработчики настаивают на поэтапном подходе.
