Современные модели искусственного интеллекта, даже не обладающие «сверхъестественным» интеллектом, представляют собой потенциальную опасность, отмечают эксперты. Они уже сейчас облегчают совершение мошеннических действий, кибератак, манипуляций и разработку оружия.
Основная проблема заключается в снижении барьеров для злоумышленников. ИИ-инструменты становятся всё более доступными, что позволяет людям без специальных знаний и навыков использовать их в преступных целях. Это касается как финансовых махинаций, так и распространения дезинформации.
В частности, ИИ может быть использован для создания более убедительных фишинговых атак, автоматизации кибератак и разработки новых видов вредоносного программного обеспечения. Также существует риск использования ИИ для создания автономных систем вооружений, что вызывает серьёзные этические и практические вопросы.
Эксперты призывают к разработке мер по регулированию использования ИИ и повышению осведомлённости о потенциальных рисках. Важно также инвестировать в разработку инструментов для защиты от ИИ-угроз.
