Компания Anthropic объявила о начале исследований, направленных на оценку возможностей искусственного интеллекта принимать моральные решения без обладания сознанием. Проект подразумевает создание моделей, способных определять правильное и неправильное поведение, опираясь лишь на алгоритмические правила.
Философы и представители религиозных традиций уже начали обсуждать последствия такой технологии. По их мнению, ключевой вопрос состоит в том, способен ли ИИ действительно понимать этические нормы или лишь имитировать их, подстраивая ответы под ожидаемые шаблоны.
Исследователи Anthropic отмечают, что текущие модели ИИ способны обучаться на больших объёмах данных, включая тексты, содержащие моральные оценки. Однако они подчёркивают, что обучение не эквивалентно сознательному восприятию. По их словам, цель проекта – определить границы между «поверхностным» соответствием этическим требованиям и подлинным моральным суждением.
В академическом сообществе уже сформировались две основные позиции. Одна из них считает, что любые попытки приписать ИИ мораль без сознания приводят к ложному представлению о его способностях. Другая указывает, что практическое применение таких систем может быть полезным, если они будут строго контролироваться и использоваться в ограниченных сценариях, например, в системах рекомендаций или автоматизированных службах поддержки.
Anthropic планирует опубликовать промежуточные результаты в ближайшие месяцы, а также организовать открытый диалог с экспертами из разных областей. Ожидается, что обсуждение будет продолжаться, пока не появятся более чёткие критерии оценки моральных способностей машин.
