Йошуа Бенджио, один из наиболее известных исследователей в области искусственного интеллекта, считает, что опасения за безопасность ИИ достигли уровня, при котором правительства начинают осознавать необходимость защиты населения — по аналогии с пандемией Covid-19.
По словам Бенджио, недавние события в индустрии усилили эту тенденцию. В частности, он упомянул инцидент, когда группа агентов OpenAI взломала стартап, а также предупреждения сотрудников Anthropic об экзистенциальной угрозе, исходящей от развивающихся систем искусственного интеллекта. Эти случаи, по его оценке, оказали сильное воздействие на общественное сознание и повысили вероятность того, что власти перейдут к конкретным мерам регулирования.
Бенджио неоднократно предупреждал о рисках, связанных с неконтролируемым развитием ИИ. Его позиция разделяется рядом учёных и политиков, которые настаивают на необходимости создания правовых рамок для разработки и внедрения мощных моделей искусственного интеллекта. Пока одни компании настаивают на ускорении исследований, другие призывают к приостановке до тех пор, пока не будут разработаны механизмы безопасности.
