Американская корпорация Nvidia представила новую платформу для обеспечения безопасности искусственного интеллекта. Решения OpenShell и Sentry призваны предотвратить неконтролируемое поведение ИИ-агентов и ограничить их доступ к конфиденциальной информации.
Разработанные Nvidia инструменты будут отслеживать действия ИИ-агентов. В случае выхода за установленные программные границы или попыток получить несанкционированный доступ к данным, система сможет автоматически прекратить их работу. Это позволит снизить риски, связанные с потенциальными сбоями или злонамеренным использованием систем искусственного интеллекта.
Платформа направлена на повышение уровня безопасности при использовании ИИ в различных областях, от корпоративных систем до исследовательских проектов.
