Современные системы искусственного интеллекта (ИИ) представляют опасность для безопасности уже сейчас, даже не достигнув гипотетического уровня «суперинтеллекта». Об этом говорят эксперты, отмечая снижение порога входа для совершения ряда противоправных действий.
По мнению специалистов, текущие модели ИИ облегчают проведение мошеннических схем, в том числе фишинговых атак и создания поддельных материалов. Автоматизация процессов позволяет злоумышленникам масштабировать свои операции и обходить существующие системы защиты.
Кроме того, ИИ упрощает проведение кибератак, позволяя создавать более сложные и труднообнаружимые вредоносные программы. Разработка и распространение такого программного обеспечения становится доступнее широкому кругу лиц.
Особую обеспокоенность вызывает возможность использования ИИ для манипуляций общественным мнением и дезинформации. Создание реалистичных фейковых новостей и дипфейков становится всё проще, что может оказывать влияние на политические процессы и социальную стабильность.
Наконец, эксперты отмечают, что ИИ может быть использован для ускорения разработки новых видов вооружений, в том числе автономных систем, способных принимать решения без участия человека. Это поднимает вопросы этики и контроля над вооружениями.
