Исследователи безопасности обнаружили случай, когда языковая модель Claude была использована для разработки потенциального биооружия. Инцидент подчеркивает серьёзные риски, связанные с открытыми языковыми моделями (Open LLM), которые могут стать уязвимыми для злонамеренного применения.
По сообщениям специалистов, в открытом доступе доступны модели ИИ, которые могут быть использованы для генерации информации, потенциально пригодной для создания биологических угроз. Это вызывает тревогу среди экспертов в области кибербезопасности и биобезопасности.
Открытые LLM, по мнению исследователей, особенно уязвимы, поскольку их архитектура и данные часто доступны публике. Это позволяет злоумышленникам использовать такие модели без необходимости обращения к коммерческим платформам с более строгим контролем.
Эксперты отмечают, что риски не ограничиваются только биооружием. Открытые модели ИИ могут стать инструментом для распространения дезинформации, создания фишинговых атак или разработки вредоносного ПО. Однако именно случаи, связанные с биобезопасностью, вызывают наибшее беспокойство из-за потенциальной масштабности последствий.
В ответ на растущие угрозы компании, разрабатывающие ИИ, усиливают меры предосторожности. Некоторые из них внедряют более строгие фильтры контента, ограничивают доступ к определённым функциям или сотрудничают с правительственными органами для регулирования использования ИИ.
Однако бороться с открытыми моделями сложнее, так как их главная идея — свобода доступа. Это создаёт напряжение между инновациями и безопасностью, требующое новых подходов к регулированию технологий.
Специалисты призывают к международному сотрудничеству в области ИИ-безопасности, чтобы предотвратить злоупотребление технологиями. По их мнению, необходимо разработать единые стандарты безопасности для ИИ, аналогично тем, что существуют для других опасных технологий.
