Современные модели искусственного интеллекта (ИИ) уже сейчас создают условия для увеличения числа мошеннических схем, кибератак, манипуляций и упрощают процессы разработки вооружений. Об этом говорят эксперты, отмечая, что для реализации этих угроз не требуется создания «сверхразумного» ИИ.
Основная опасность заключается в снижении порога входа для злоумышленников. ИИ-инструменты становятся всё более доступными и простыми в использовании, что позволяет людям без специальных знаний совершать сложные и опасные действия.
В частности, отмечается, что ИИ может использоваться для создания более убедительных фишинговых атак, автоматизации кибератак и распространения дезинформации. Кроме того, ИИ может помочь в разработке новых видов оружия, в том числе автономного.
Специалисты подчеркивают, что важно осознавать эти риски и разрабатывать меры по их предотвращению. Это включает в себя разработку более эффективных систем безопасности, повышение осведомленности общественности и регулирование использования ИИ.
