Компания Anthropic объявила о начале исследований, направленных на понимание того, способен ли искусственный интеллект формировать моральные суждения без наличия сознания. Учёные проекта рассматривают, может ли система различать правильное и неправильное, а не просто имитировать соответствующее поведение.
В рамках проекта исследователи разрабатывают модели, которые обучаются на больших объёмах этических данных, но при этом не обладают самосознанием. По их словам, цель – выяснить, насколько такие модели способны принимать решения, соответствующие человеческим представлениям о морали, без субъективного опыта.
Параллельно с технической стороной вопросом занимаются философы и представители религиозных традиций. Они отмечают, что моральные суждения традиционно связываются с сознательным восприятием и внутренними ценностями. По их мнению, даже продвинутый ИИ может лишь симулировать моральный язык, не обладая истинным пониманием добра и зла.
«Если система способна правильно реагировать на этические задачи, но не имеет собственного опыта, можно говорить лишь о внешней имитации», – пояснил один из философов, участвующих в дискуссии. Другой специалист подчеркнул, что отсутствие сознания ограничивает возможность ИИ формировать собственные моральные принципы.
Результаты исследований Anthropic могут повлиять на будущие стандарты разработки ИИ, в частности на требования к прозрачности и ответственности алгоритмов. Пока проект находится в начальной фазе, и окончательные выводы о моральных способностях без сознания ещё не сделаны.
