Крупные технологические компании, разрабатывающие искусственный интеллект, всё чаще обращаются к религиозным традициям в поисках ответа на вопрос: как сделать ИИ «морально хорошим»? Об этом говорится в материале, в котором свои оценки ситуации дают эксперты и исследователи.
Суть подхода проста: создатели языковых моделей и чат-ботов хотят, чтобы системы выдавали ответы, соответствующие общепринятым представлениям о добре и зле. Одним из источников таких ориентиров разработчики считают мировые религии — тексты и традиции, в которых на протяжении веков формулировались нормы этики. Возникает вопрос, можно ли перевести эти нормы в инструкции для машины.
Комментарий учёных по этому поводу сводится к одной ключевой мысли: религия — это не просто набор правил, которым нужно следовать. По мнению исследователей, подобное упрощённое понимание веры рискует дать искажённый результат. Если свести религиозную этику к списку запретов и предписаний, а затем загрузить его в модель, система получит лишь внешнюю оболочку морали, лишённую контекста и осмысления.
Религиозные традиции, отмечают специалисты, включают не только нормы поведения, но и способы рассуждения о сложных случаях, опыт толкования спорных ситуаций, представление о совести и ответственности. Всё это трудно формализовать в виде алгоритма. Отсюда и сомнения: сможет ли машина, опирающаяся на «правила», корректно вести себя в ситуациях, где даже люди расходятся во мнениях.
У обращения разработчиков к религии есть и практическая причина. Пользователи по-разному реагируют на ответы ИИ: кого-то раздражает излишняя осторожность системы, кого-то — напротив, её откровенность. Компаниям нужна универсальная система ценностей, которая устроила бы как можно больше людей и не приводила к громким скандалам. Религиозная этика воспринимается частью индустрии как общий знаменатель для самых разных культур и сообществ.
При этом критики подхода указывают, что у религиозных норм нет единой версии: внутри одной традиции существуют разные направления и толкования, а между конфессиями — заметные различия. Выбор конкретной интерпретации morality для модели сам по себе становится непростым решением, которое придётся кому-то принимать.
Насколько можно судить из приводимых оценок, дискуссия лишь начинается. Технологическим компаниям нужно учить ИИ рассуждать о нравственных дилеммах, а учёные напоминают: механический перенос религиозных правил в код вряд ли решит задачу. Ответ на вопрос, как сделать искусственный интеллект «морально хорошим», пока остаётся открытым — и теперь он обсуждается не только в академической среде, но и в штаб-квартирах крупнейших IT-корпораций.
