Развитие искусственного интеллекта (ИИ) уже сейчас создает реальные угрозы, даже без достижения им уровня сверхинтеллекта. Современные модели значительно снижают порог вхождения для совершения мошеннических действий, проведения кибератак, осуществления манипуляций и даже для разработки новых видов вооружений.
Эксперты отмечают, что даже относительно простые ИИ-системы способны автоматизировать и масштабировать действия, которые ранее требовали значительных человеческих ресурсов и специализированных знаний. Это касается, в частности, создания убедительных поддельных документов, фишинговых писем и сообщений, а также генерации вредоносного программного обеспечения. Злоумышленники получают доступ к инструментам, позволяющим проводить более сложные и целенаправленные атаки с меньшими затратами.
Особую обеспокоенность вызывает потенциал ИИ в области дезинформации и манипуляции общественным мнением. Алгоритмы способны генерировать персонализированный контент, имитирующий стиль и манеру речи конкретных людей или организаций, что затрудняет распознавание фейков. Это может быть использовано для вмешательства в политические процессы, дискредитации отдельных лиц или групп, а также для разжигания социальной напряженности.
В сфере кибербезопасности ИИ открывает новые возможности как для атакующих, так и для защитников. Однако, если злоумышленники смогут использовать ИИ для автоматического поиска уязвимостей, создания более изощренных вредоносов и обхода систем защиты, это может привести к беспрецедентному росту числа успешных кибератак. Разработка ИИ-систем, способных к автономным действиям, также поднимает вопросы этического контроля и ответственности, особенно в контексте применения в военных целях. Упрощение доступа к технологиям, которые могут быть использованы для создания новых видов оружия, требует пристального внимания со стороны международного сообщества и регуляторов.
