Развитие искусственного интеллекта (ИИ) уже сейчас создает реальные риски, даже без достижения уровня сверхразума. Современные ИИ-модели активно используются для снижения барьеров в совершении мошеннических действий, проведения кибератак, осуществления манипуляций и даже в разработке вооружений.
Эксперты отмечают, что доступность мощных ИИ-инструментов позволяет злоумышленникам с меньшими усилиями и затратами реализовывать свои деструктивные планы. Например, для создания убедительных фишинговых писем или поддельных новостей теперь не требуется глубоких знаний в области копирайтинга или фактчекинга — ИИ может сгенерировать текст, неотличимый от написанного человеком. Это значительно увеличивает масштабы и эффективность мошеннических кампаний.
В сфере кибербезопасности ИИ также становится инструментом как для защиты, так и для нападения. Злоумышленники могут использовать ИИ для автоматизации поиска уязвимостей в системах, создания более изощренных вредоносных программ или для обхода существующих систем защиты. Это создает постоянную гонку вооружений между разработчиками защитных решений и киберпреступниками.
Кроме того, ИИ открывает новые возможности для распространения дезинформации и манипулирования общественным мнением. Генерация фейковых новостей, создание дипфейков (реалистичных поддельных видео и аудио) и персонализированная пропаганда могут оказывать существенное влияние на социальные и политические процессы. Сложность распознавания такого контента усугубляет проблему.
Не менее серьезной угрозой является применение ИИ в военных технологиях. Разработка автономных систем вооружений, совершенствование систем наведения и разведки, а также потенциальное использование ИИ для анализа и прогнозирования военных действий поднимают этические и стратегические вопросы, требующие международного регулирования. Даже без обретения ИИ сознания или самосознания, его способность к быстрому обучению и принятию решений в сложных сценариях делает его мощным, а порой и опасным инструментом в руках человека.
