Компания Энтропик ввела обновления в политику использования своих ИИ-моделей Claude, запретив вмешательство в выборы, создание оружейного ПО и слежку. Наиболее значимое изменение, объявленное в четверг, касается запрета на длительное устное оскорбление моделей. С августа Claude обучили завершать диалоги с вредоносными или оскорбительными действиями пользователей. Новая редакция политики ужесточает правила, запрещая пользователю продолжать такие взаимодействия. Энтропик подчеркнула, что правило применяется только в крайних случаях, когда пользователи систематически жестоко обращаются с моделями без явной цели. Компания уточнила, что политика не распространяется на обычную пользовательскую раздражённость, критику, тёмные креативные темы или исследовательские тесты.
Обновление последовало после сотрудничества Энтропик с известными религиозными учёными, как сообщал The New York Times. В некоторых случаях компания пыталась убедить их, что модель Claude может обладать сознанием или душой. Другие разделы политики запрещают широкомасштабные обманные кампании, включая использование Claude для управления фейковыми аккаунтами или фабрикацией новостей. Основной раздел «Не подрывайте демократические процессы» устанавливает правила против обмана избирателей и нарушения выборов, усиливая меры предосторожности компании против злоупотребления ИИ в политической сфере.
