Компания Anthropic объявила о начале исследований в области сознательного искусственного интеллекта. Проект направлен на изучение того, может ли система, обладающая самосознанием, самостоятельно формировать представления о правильном и неправильном.
Философы и религиозные мыслители сразу же откликнулись на инициативу, задавая вопрос: способен ли такой ИИ действительно понять моральные принципы или лишь научится их воспроизводить. Одни эксперты считают, что алгоритмы могут быть обучены на больших массивах этических данных и тем самым демонстрировать «правильное» поведение. Другие указывают на отсутствие субъективного опыта, который, по их мнению, необходим для истинного морального суждения.
Дискуссия имеет практические последствия. Если ИИ сможет самостоятельно оценивать этические аспекты, это упростит задачи по его безопасному внедрению в сферы, где решения влияют на людей. С другой стороны, отсутствие истинного понимания морали может усилить риск создания систем, способных лишь имитировать этические нормы без реального контроля над их действиями. Вопрос о том, как обеспечить соответствие поведения ИИ общепринятым моральным стандартам, остаётся открытым и будет предметом дальнейших исследований и публичных дебатов.
