Крупные технологические компании, разрабатывающие системы искусственного интеллекта, начали обращаться к религии в поисках moralных ориентиров для своих моделей. Об этом сообщают американские СМИ со ссылкой на высказывания исследователей, которых редакции попросили прокомментировать новую тенденцию.

Суть подхода в том, что разработчики стремятся сделать поведение ИИ не просто формально «безопасным», но и «морально хорошим». Формулировки вроде «быть полезным и безвредным» в инструкциях для моделей заменяют более развёрнутыми этическими установками, и здесь компании находят общий язык с религиозными мыслителями, у которых за плечами многовековая традиция рассуждений о добре и зле.

Комментирующие тему учёные подчёркивают: религия — это не просто свод правил, которым нужно следовать. По их мнению, религиозная традиция предлагает более глубокое понимание морали — как учения о человеке, его целях и отношениях с окружающими. Именно поэтому диалог технологов с теологами может быть полезнее, чем простое перечисление запретов в руководствах по использованию ИИ.

Крупные языковые модели сегодня отвечают на вопросы о смысле жизни, моральном выборе и вере, и компании вынуждены решать, какие позиции должна занимать машина в подобных разговорах. Универсального ответа нет: у инженеров нет готовой системы этики, а общества с разными культурными традициями по-разному оценивают одни и те же поступки. Обращение к религиозным философам — попытка опереться на проверенную временем рамку, а не изобретать её с нуля.

Практически это выражается в том, что теологи и специалисты по этике привлекаются к работе над настройкой моделей: их просят оценивать, насколько корректно ИИ отвечает на деликатные вопросы, не навязывает ли он определённые ценности и не противоречит ли его поведение базовым нравственным нормам.

У идеи есть и критики. Часть комментаторов указывает, что включение религиозных установок в логику систем ИИ может означать предпочтение одних мировоззрений другим, и это само по себе спорное решение для продукта, которым пользуются миллиарды людей с разными убеждениями. Кроме того, религиозные традиции внутри себя неоднородны, и выбрать «одну» мораль для глобального продукта вряд ли возможно.

Сторонники диалога, напротив, считают, что участие богословов не навязывает конфессию, а обогащает обсуждение этики технологий: религия веками накапливала опыт осмысления человеческого поведения, и игнорировать этот багаж при создании систем, влияющих на миллионы решений ежедневно, было бы упущением.

Насколько широко компании уже применяют религиозную этику в настройке ИИ и какие результаты это даёт, в публикациях подробно не раскрывается. Ясно одно: вопрос о том, чью мораль должен отражать искусственный интеллект, из академической дискуссии превратился в практическую задачу для индустрии.