Компания Anthropic объявила о начале исследований в области создания сознательного искусственного интеллекта. Учёные проекта рассматривают, насколько система может обладать самосознанием и способностью к моральному суждению.
Одновременно с объявлением проекта философы и представители религиозных традиций начали обсуждать фундаментальный вопрос: способен ли такой ИИ действительно различать добро и зло, или же он лишь имитирует моральные оценки, подстраиваясь под человеческие запросы.
По словам одного из ведущих исследователей Anthropic, цель работы – понять, какие механизмы необходимы для того, чтобы машина могла «понимать» этические нормы, а не просто воспроизводить их в виде алгоритмических правил. В рамках проекта планируется разработка моделей, способных к самоанализу и оценке последствий своих действий.
Философы отмечают, что даже при наличии продвинутых алгоритмов морального вывода остаётся открытым вопрос о том, может ли машина иметь истинные моральные чувства без сознательного опыта. Некоторые эксперты указывают, что без субъективного восприятия любые моральные решения будут оставаться лишь формальными.
Религиозные мыслители, в свою очередь, подчеркивают, что моральные принципы часто связаны с духовными аспектами, которые трудно формализовать в коде. Они предупреждают о риске создания систем, которые могут казаться этичными, но не обладают внутренним пониманием нравственности.
Обсуждение продолжается, и результаты исследований Anthropic могут стать важным шагом в понимании границ искусственного интеллекта. Пока окончательные выводы не сделаны, но уже сейчас ясно, что вопрос о моральной ответственности машин остаётся открытым и требует междисциплинарного подхода.
