Крупные технологические компании — те, кого в англоязычных СМИ принято называть Big Tech — ищут опору для этики искусственного интеллекта в религии. Об этом пишет издание в материале, посвящённом тому, как индустрия пытается сделать ИИ «морально хорошим». К обсуждению журналисты привлекли учёных, занимающихся вопросами религии и этики.

Суть затронутой проблемы в том, что у разработчиков искусственного интеллекта нет общепризнанного источника моральных норм. В закон можно вписать запреты, в регламенты — правила модерации контента, но формализовать представления о добре и зле значительно сложнее. Именно здесь, по логике материала, корпорации и обращаются к религиозной традиции: это одна из старейших и наиболее разработанных систем нравственных ориентиров, доступных человечеству.

Комментирующие эксперты подчёркивают важный нюанс: религия — это нечто большее, чем просто свод правил, которым следует подчиняться. Учёные предостерегают от упрощённого подхода, при котором разработчики ИИ попытаются «переписать» заповеди или религиозные предписания в виде инструкций для алгоритма. Такое механическое перенесение, по их мнению, упускает саму суть религиозной этики — контекст, традиции, живую практику и внутренние основания для морального выбора.

Этот аргумент имеет прямое отношение к технической стороне вопроса. Современные языковые модели обучаются на огромных массивах текстов и выстраивают ответы на основе статистических закономерностей. Встроить в такую систему целостное нравственное мировоззрение, опирающееся на живую традицию, технически сложно: модель может воспроизвести формулировки, не понимая их смысла и иерархии ценностей за ними.

Отдельная сложность — многообразие самих религиозных традиций. Даже в пределах одной страны сосуществуют разные конфессии с несовпадающими этическими акцентами, и разработчикам пришлось бы решать, чью систему норм закладывать в продукт, претендующий на универсальность. Сам вопрос о том, возможно ли вообще единое «морально хорошее» поведение для ИИ, остаётся открытым.

Тем не менее сам факт обращения отрасли к теологам и религиоведам показателен. Раньше дискуссии об этике технологий строились в основном вокруг светских рамок: прозрачности алгоритмов, защиты данных, недопустимости дискриминации. Теперь к этому добавился ещё один слой — вопросы, которые традиционно относились к ведению религии и философии: что такое добро, что допустимо, а что нет, и кто вправе это определять.

Для читателя смысл ситуации можно свести к следующему: разработчики ИИ столкнулись с пределом технических решений. Алгоритм может быть обучен избегать запрещённых тем, но вопрос о том, на чём должны основываться сами запреты и как они согласуются друг с другом, лежит за пределами программирования. Технологические компании, судя по материалу, попытались закрыть этот пробел с помощью религиозных учёных, а те, в свою очередь, напомнили, что религия не сводится к перечню предписаний и не поддаётся прямому «кодированию».

Как именно индустрия будет учитывать эти рекомендации — в обучении моделей, в правилах их эксплуатации или в надзорных механизмах — в материале не раскрывается. Очевидно лишь, что разговор о моральных основаниях искусственного интеллекта вышел за пределы инженерных команд и вовлёк в себя участников, которых ещё недавно было трудно представить в этой дискуссии.