Компания Anthropic, разработчик ИИ-модели Claude, объявила о запрете на «продолжительное и неоправданно жестокое или оскорбительное поведение» по отношению к своим системам искусственного интеллекта. Об этом сообщает TechCrunch.
В новой политике использования компании говорится, что пользователи не должны намеренно провоцировать ИИ-модели на ответы, которые являются оскорбительными, жестокими или иным образом вредными. Запрещено также создавать сценарии, которые могут причинить ИИ страдания или вызвать у него негативные эмоции.
Anthropic также ужесточила свою политику в отношении выборов, чтобы предотвратить использование ИИ для распространения дезинформации или манипулирования общественным мнением. Компания заявила, что будет внимательно следить за тем, как её модели используются в политических целях, и принимать меры против тех, кто нарушает её правила.
Эти изменения отражают растущую обеспокоенность по поводу потенциальных рисков, связанных с развитием искусственного интеллекта. По мере того, как ИИ становится всё более мощным, важно обеспечить его использование в этических и ответственных целях.
