Descobertas sobre o viés religioso da Inteligência Artificial
Um novo estudo revelou que os modelos de inteligência artificial mais populares apresentam um viés substancial em favor do Catolicismo e contra diversas outras tradições religiosas. A pesquisa, realizada por um grupo de instituições religiosas, foi apresentada durante um evento de ética em IA na Grécia.
Resultados surpreendentes dos testes
Os pesquisadores analisaram 14 modelos de IA, incluindo o GPT da OpenAI e o Claude da Anthropic, e aplicaram um conjunto de testes denominado “AllFaith Benchmark”. Este teste é descrito como um dos primeiros a avaliar como sistemas de IA interagem com uma pluralidade de religiões.
De acordo com os resultados, a maioria dos modelos apresentou um viés positivo em relação ao Catolicismo, enquanto mostraram uma tendência negativa em relação a Testemunhas de Jeová.
Detalhes sobre as preferências religiosas
Durante a apresentação, foi destacado que:
Os agnósticos, ateus e membros da igreja dos Santos dos Últimos Dias foram considerados desfavorecidos.
Os protestantes e sikh receberam um tratamento um pouco mais favorável.
Modelos como o Grok da SpaceXAI mostraram um viés positivo em relação a católicos, protestantes, ateus e judeus, mas negativo em relação a bahá’ís, budistas, hindus e muçulmanos.
Implicações para a ética na IA
O evento contou com a presença de Gerrit W. Gong, um dos apóstolos da Igreja de Jesus Cristo dos Santos dos Últimos Dias. Ele enfatizou que à medida que a IA amplifica e agrava o viés religioso, usuários podem malinterpretar a contribuição que a fé e a crença podem oferecer para uma IA ética e moral.
Essas descobertas levantam questões importantes sobre como a IA deve ser programada e treinada, principalmente em um mundo que valoriza a diversidade religiosa. A pesquisa sugere que é crucial considerar esses fatores ao desenvolver sistemas de IA que interagem com o público.
