COBROU TRANSPARÊNCIA DAS IAS: O papa Leão XIV fez um alerta, neste sábado (24), sobre o uso inadequado da inteligência artificial (IA).
“Muitas vezes há uma confiança ingenuamente acrítica na IA como uma ‘amiga’ onisciente, dispensadora de todas as informações, arquivo de todas as memórias e um ‘oráculo’ de todos os conselhos. Tudo isso pode corroer ainda mais nossa capacidade de pensar”, declarou.
Para o pontífice, os chatbots podem propagar preconceitos e desinformação.
“Os modelos de IA são moldados pela visão de mundo de quem os constrói e, por sua vez, podem impor modos de pensar ao reproduzir os estereótipos e preconceitos presentes nos dados que utilizam”, afirmou.
O líder religioso também criticou a falta de transparência na criação dos algoritmos que regulam o funcionamento das inteligências artificiais.
"São sobretudo os chatbots baseados em grandes modelos de linguagem [LLM, na sigla em inglês] que se mostram especialmente eficazes na persuasão oculta”.
Por fim, o Papa recomendou que a população seja mais crítica em relação às IAs e não confie plenamente nos resultados gerados por elas.
“A revolução digital exige uma alfabetização digital (...) para compreender como os algoritmos moldam a nossa percepção da realidade. O desafio que enfrentamos não é deter a inovação digital, mas governá-la, estarmos conscientes do seu caráter ambivalente”.
Para o pontífice, os chatbots podem propagar preconceitos e desinformação.
“Os modelos de IA são moldados pela visão de mundo de quem os constrói e, por sua vez, podem impor modos de pensar ao reproduzir os estereótipos e preconceitos presentes nos dados que utilizam”, afirmou.
O líder religioso também criticou a falta de transparência na criação dos algoritmos que regulam o funcionamento das inteligências artificiais.
"São sobretudo os chatbots baseados em grandes modelos de linguagem [LLM, na sigla em inglês] que se mostram especialmente eficazes na persuasão oculta”.
Por fim, o Papa recomendou que a população seja mais crítica em relação às IAs e não confie plenamente nos resultados gerados por elas.
“A revolução digital exige uma alfabetização digital (...) para compreender como os algoritmos moldam a nossa percepção da realidade. O desafio que enfrentamos não é deter a inovação digital, mas governá-la, estarmos conscientes do seu caráter ambivalente”.