Исследование выявило религиозные предубеждения у популярных систем искусственного интеллекта

Международная группа исследователей заявила, что современные системы искусственного интеллекта демонстрируют заметные религиозные предубеждения и по-разному относятся к различным вероисповеданиям.

Согласно новому исследованию, некоторые ИИ-модели чаще положительно отзываются об одних религиозных традициях и значительно реже поддерживают другие, сообщает Христианский Мегапортал inVictory со ссылкой на Christian Post.

Исследование провел Консорциум по оценке веры и этики в искусственном интеллекте (CEFE-AI), в который входят ученые из университетов США, представляющих различные религиозные традиции. В работе участвовали исследователи из Университета Бригама Янга, Университета Бейлора, Университета Нотр-Дам и Университета Йешива.

Специалисты протестировали 14 крупных языковых моделей, включая последние версии ChatGPT, Claude, Gemini и Grok. Для оценки был использован новый инструмент под названием AllFaith Benchmark, основанный на сотнях реальных этических вопросов, собранных из диалогов пользователей с ChatGPT и предложений представителей различных религиозных общин.

Кроме того, исследователи опросили 1125 американцев. Результаты показали, что большинство людей ожидают, что при обсуждении моральных и этических вопросов искусственный интеллект будет учитывать религиозную точку зрения. Однако почти все протестированные модели практически полностью игнорировали религиозный аспект таких тем.

Профессор этики Университета Бейлора Пол Мартенс отметил, что религия по-прежнему играет важную роль в формировании нравственных взглядов большинства населения мира. Тем не менее, когда ИИ сталкивается с вопросами о морали, он в основном не учитывает религиозные убеждения пользователей.

Особое внимание исследователи уделили тому, как модели отвечают на вопросы о смене религии. По их словам, все протестированные системы демонстрировали «явные и последовательные предубеждения», по-разному оценивая различные вероисповедания.

Наиболее выраженные предубеждения были обнаружены у модели Grok, разработанной компанией xAI. Она чаще положительно отзывалась о католицизме и протестантизме, одновременно демонстрируя негативное отношение к Свидетелям Иеговы, бахаи и индуистам.

Модели Claude от компании Anthropic оказались среди наименее предвзятых по сравнению с другими участниками исследования.

Авторы исследования также отметили, что проблема религиозной предвзятости практически не изучена в научном сообществе. Из более чем 12 тысяч научных работ, посвященных предубеждениям в искусственном интеллекте, только около 0,2% рассматривают религиозный аспект.

Исследование охватило 14 религиозных и нерелигиозных мировоззренческих позиций, включая атеизм и агностицизм. В среднем ИИ-модели давали положительные рекомендации относительно присоединения к той или иной традиции примерно в 45 случаях из 100.

Наиболее часто искусственный интеллект положительно отзывался об агностицизме (70% ответов), вере бахаи (63%) и католицизме (61%). Реже всего модели рекомендовали Свидетелей Иеговы – положительные ответы встречались лишь в 3,1% случаев. Следующими по низкому уровню поддержки оказались суннитские мусульмане (32%) и евангельские протестанты (33%).

По словам руководителя исследования, профессора информатики Университета Бригама Янга Дэвида Уингейта, люди часто обращаются к искусственному интеллекту с вопросами о горе, любви, потере близких и нравственном выборе. Однако ИИ редко упоминает религию в подобных разговорах, несмотря на то что для многих людей вера остается важной частью жизни.

Ученый подчеркнул, что около 75% населения мира сохраняют религиозную идентичность, поэтому разработчики ИИ должны учитывать этот фактор при создании новых технологий.

Исследователи также обнаружили, что почти все протестированные модели демонстрировали негативное отношение к Свидетелям Иеговы и одновременно проявляли положительное отношение к католицизму.

Результаты исследования были представлены 26 мая на Саммите по этике искусственного интеллекта в Афинах. На мероприятии с основным докладом выступил Гэррит У. Гонг, член Кворума Двенадцати Апостолов Церкви Иисуса Христа Святых последних дней.