Компания Circuit Breaker Labs представила новую технологию, призванную повысить безопасность искусственного интеллекта. Разработчики создали так называемых «манекенов» — специальные системы, предназначенные для тестирования ИИ на предмет потенциального психологического вреда, который он может нанести пользователям.
В условиях растущих опасений по поводу будущего развития ИИ и его возможных негативных последствий, стартап обращает внимание на уже существующие проблемы. По мнению представителей Circuit Breaker Labs, искусственный интеллект уже способен причинять психологический дискомфорт людям. Для решения этой задачи были разработаны «манекены» — аналоги краш-тестов для автомобилей, но применяемые к моделям ИИ. Эти системы позволяют имитировать взаимодействие с ИИ в различных сценариях, выявляя и анализируя потенциально опасные реакции и ответы.
Цель проекта — сделать взаимодействие с технологиями ИИ более безопасным, особенно для детей, а также для широкого круга пользователей. Тестирование с помощью «манекенов» должно помочь разработчикам ИИ выявлять и устранять уязвимости в своих системах до их массового внедрения, тем самым снижая риски психологического воздействия.
