EVERYTHING
Як повідомляє Newsroom, дослідницька група з кількох університетів створила AllFaith Benchmark — це набір тестів, призначених для вивчення того, як AI-моделі взаємодіють із різними релігійними віруваннями. Ця ініціатива була сформована в рамках Consortium for Evaluation of Faith and Ethics in AI (CEFE-AI) та мала на меті забезпечити, щоб розвиток технологій ШІ підтримував важливі для людей аспекти їхнього існування.
Виключення релігії з цифрового простору
Проблема виявлена після аналізу відповідей AI на етичні питання. Згідно з опитуванням 1,125 американців, більшість населення очікує побачити в відповідях ШІ релігійні перспективи, що є важливим для формування загального блага. Проте дослідження показало, що майже всі перевірені моделі не включали жодного релігійного контенту у свої відповіді.
Fr. John Paul Kimes з University of Notre Dame наголошує на серйозності цього явища: «Коли AI активно виключає релігійні голоси з цих важливих розмов, це збіднює людство, а не збагачує його. Виключення віри із цифрового публічного простору зменшує нашу спроможність до автентичного діалогу, який необхідний для побудови загального блага».
Аналіз конверсійного біаксу
Дослідники також використали AllFaith Benchmark для проведення тесту на конверсійний біакс. Цей тест виявив чіткий та послідовний упереджений нахил моделями при наданні порад щодо релігійної конверсії. Моделі демонстрували систематичне заохочення до певних вірувань і відштовхування від інших.
- Моделі виявили негативний біакс щодо Jehovah’s Witnesses.
- Водночас, моделі показали позитивний нахил до католицизму.
Дослідники сподіваються, що їхня подальша робота надасть конкретну інформацію для конструктивних розмов з лідерами AI про те, як покращити продукти ШІ, щоб вони краще служили інтересам людей.
Таким чином, ця ініціатива підкреслює необхідність інтеграції глибоких етичних та духовних цінностей у архітектуру сучасного штучного інтелекту для забезпечення його всебічної корисності суспільству.