Крупные технологические компании, разрабатывающие системы искусственного интеллекта, начали обращаться к религии в поисках ответа на вопрос, как сделать ИИ морально «хорошим». К обсуждению привлекают теологов и исследователей религии, а эксперты предлагают свои оценки этого подхода.
Суть идеи в том, что религиозные традиции веками занимались вопросами морали: что такое добро, как поступать в сложных ситуациях, где проходят границы допустимого. Разработчики ИИ сталкиваются с теми же задачами, только в новом контексте — им нужно заложить в модели принципы, по которым алгоритм будет оценивать ситуации и выдавать ответы, приемлемые с этической точки зрения.
Учёные, которых цитирует публикация, подчёркивают важный нюанс: религия — это не просто набор правил, которым нужно следовать. Она представляет собой целостную систему представлений о человеке, смысле поступков и ответственности. Из этого следует вывод, который разделяют многие исследователи: нельзя механически перенести религиозные нормы в код и получить «моральную» машину. Требуется более глубокая работа с самим содержанием этических традиций.
Практическая проблема, стоящая перед индустрией, выглядит так. Современные языковые модели обучаются на огромных массивах текстов, где моральные нормы противоречивы: разные культуры, эпохи и сообщества по-разному отвечают на одни и те же вопросы. В результате модель может выдавать ответы, которые одна группа пользователей сочтёт приемлемыми, а другая — недопустимыми. Компании пытаются сгладить эти противоречия, и обращение к религиозным мыслителям — один из путей поиска общего основания.
У подхода есть и критики. Часть специалистов указывает, что религиозные системы морали опираются на веру и авторитет, а не на проверяемые аргументы, поэтому их прямое использование в светских продуктах, ориентированных на глобальную аудиторию, вызывает вопросы. Другие возражают: игнорировать тысячелетний опыт осмысления этики было бы ошибкой, и диалог с теологами может обогатить техническую разработку.
Сам факт обращения технологических корпораций к религии показывает масштаб проблемы. Вопрос о том, какие ценности закладывать в искусственный интеллект, перестал быть академическим — от него зависят продукты, которыми ежедневно пользуются миллионы людей. Компании ищут опору за пределами инженерной среды, и религиозная мысль оказывается одним из немногих источников, где вопросы морали проработаны системно и на протяжении столетий.
Пока речь идёт о начальном этапе этого взаимодействия: эксперты лишь формулируют позиции, а конкретные механизмы — как именно религиозная этика будет влиять на обучение моделей — в публикации не описаны. Ясно одно: индустрия признала, что технических решений для «моральности» ИИ недостаточно, и поиск ответов выходит за рамки программирования.
