Крупные технологические компании, занятые разработкой искусственного интеллекта, всё чаще обращаются к религии в поисках ответа на вопрос, как сделать ИИ «морально хорошим». Об этом говорится в материале, посвящённом пересечению двух, казалось бы, далёких друг от друга сфер — высоких технологий и религиозной мысли.
Суть проблемы, вокруг которой строится дискуссия, проста. Системы искусственного интеллекта принимают решения и формируют ответы, влияя на жизнь миллионов людей, и перед разработчиками встаёт вопрос о том, на какую систему ценностей эти системы должны опираться. Светские этические кодексы дают лишь часть ответа, и именно поэтому, как отмечается в публикации, специалисты по машинному обучению начинают присматриваться к религиозным традициям как к источнику представлений о добре и зле.
Впрочем, учёные, комментирующие эту тенденцию, предостерегают от упрощённого подхода. По их мнению, религия — это не просто свод правил, которым можно обучить алгоритм. Религиозная мысль на протяжении тысячелетий развивала представления о совести, ответственности, сострадании и смысле человеческих поступков, и механическое извлечение «готовых норм» из религиозных текстов не передаст всей глубины этих традиций.
Этот аргумент указывает на реальную сложность задачи. Моральные дилеммы редко сводятся к однозначным инструкциям: в религиозной философии, как и в светской этике, существуют школы и течения, расходящиеся между собой в оценках одних и тех же ситуаций. Если разработчики попытаются «зашить» в модель фиксированный набор предписаний, результат может оказаться неполным — а выбор конкретного набора сам по себе станет непростым вопросом, учитывая разнообразие конфессий и культурных контекстов, в которых будут работать системы ИИ.
Отсюда следует и практический вывод, который можно сделать из рассуждений учёных: диалог между технологическими компаниями и религиозными мыслителями требует осторожности. С одной стороны, многовековой опыт осмысления морали может обогатить разработку искусственного интеллекта новыми подходами. С другой — перенос религиозных категорий в техническую среду рискует выхолостить их содержание, превратив живую традицию в набор формальных ограничений, то есть ровно в то, чем религия, по мнению исследователей, не является.
Публикация фиксирует сам факт этой тенденции и позицию учёных, не приводя деталей о конкретных компаниях, проектах или именах экспертов. Тем не менее само направление разговора показательно: вопрос о морали искусственного интеллекта перестал быть узкотехнической задачей и вышел на уровень, где к обсуждению подключаются гуманитарные дисциплины и религиозная мысль. О том, к каким практическим решениям приведёт этот диалог — появятся ли у разработчиков конкретные принципы, основанные на религиозной этике, — источники пока не сообщают.
