Uma instituição milenar ainda está aqui na era dos robôs. E tem tentado ser uma voz no debate sobre as implicações da inteligência artificial e a regulação dessa tecnologia. Desde os últimos anos do papado de Francisco, a IA entrou na pauta da Santa Sé, que passou a apontar os benefícios e riscos da novidade. E o assunto não morreu aí. Mal a fumaça branca tinha subido da Capela Sistina, o sucessor no trono de Pedro, Leão 14, já passou a lançar alertas sobre o assunto.
Um dos canais do Vaticano para exercer influência sobre debates científicos é a Academia Pontifícia para a Vida, um centro internacional de reflexão, com profissionais de vários campos, que assessora a Igreja em questões de ética, moral e ciência.
Quando foi criada, nos anos 1990, os debates nesse campo eram aborto, clonagem ou reprodução assistida. Mas, desde 2020, a IA tem estado no centro da atuação da instituição, que conclama empresas e governos a adotar uma perspectiva humanista no desenvolvimento tecnológico.
“O papa Francisco disse, em 2024, que a IA é um dom de Deus. Como todo dom, ele não resolve nada automaticamente, mas abre possibilidades. É um chamado à liberdade, ao dever e à responsabilidade”, diz o padre Andrea Ciucci, secretário-coordenador da Academia desde 2016.
Ordenado sacerdote em 1992, Ciucci é doutor em filosofia contemporânea e atuou na diocese de Milão por 20 anos “como um simples padre”. Hoje, tem viajado o mundo para discutir diretrizes éticas para o desenvolvimento da IA.
Para ele, o fato de a transformação digital jogar o ser humano em relações que não são mediadas pelo corpo traz uma série de riscos —especialmente o de romper laços de fraternidade entre as pessoas.
Em entrevista a Maurício Meireles da Folha de S.Paulo, em Roma, ele explicou por que a Igreja vê a IA como um dom dado por Deus, mas que, como tal, não resolve os problemas da humanidade por si. Ele ainda analisou notícias de pessoas se casando com robôs e a perspectiva do sexo com máquinas, diante da pornografia gerada por IA.
Diante disso, Ciucci defendeu uma agenda de regulação global da tecnologia e discutiu as afirmações recentes do bilionário da tecnologia Peter Thiel de que o anticristo estaria por trás do discurso em defesa de uma governança global da IA (depois da conversa do padre com o jornal, Thiel acabou levando sua série de palestras sobre o tema a Roma, causando mal-estar na Santa Sé).
De que forma os avanços da IA desafiam a visão católica do que é o ser humano? E que riscos a Igreja vê no avanço dessa tecnologia?
Por que você começa me perguntando sobre os riscos e não sobre benefícios? Hoje todo mundo fala de IA apenas em termos de problemas. Isso cria uma narrativa terrível. O papa Francisco disse, em discurso no G7 em 2024, que a inteligência artificial é um dom de Deus.
Esse é o ponto central da mensagem da Igreja. Temos em mãos um dom incrível. E, como todo dom, não resolve nada automaticamente, mas abre possibilidades. Esse é um chamado à liberdade, ao dever e à responsabilidade.
Posso concordar com todos os riscos que você listar, mas não podemos começar por aí. A IA provoca a Igreja a falar do futuro. A ética da IA não é apenas criar grades de proteção, mas sim perguntar: o que queremos fazer com esse poder? Qual é o nosso sonho de futuro?
Hoje, na Europa, a Igreja é vista como guardiã do passado. Mas a Igreja não é um agente do passado, é um agente do futuro. O que a Páscoa e a ressurreição de Cristo produziram foi uma abertura para o futuro. O primeiro desafio é saber que futuro queremos.
Já o segundo desafio que as igrejas cristãs enfrentam diante da IA é a questão do corpo e da carne. No digital, estamos diante de corpos que desaparecem. E esse é um desafio especificamente para a Igreja Católica, porque a tradição cristã é uma religião do corpo. Não professamos a imortalidade da alma, mas a ressurreição da carne. O catolicismo se inicia com o mistério da encarnação e a ressurreição do corpo. Por isso, a questão é que tipo de narrativa sobre o corpo oferecemos hoje ao mundo.
E o terceiro desafio é o da fraternidade. Vivemos em uma era social, mas com IA podemos falar com uma máquina. Hoje vemos casos de pessoas casadas com robôs ou que tentam se confessar para um chatbot. Há adolescentes que perguntam ao ChatGPT questões importantes de suas vidas, falam de sua intimidade. Precisamos de um espaço de fraternidade concreta, com pessoas juntas em carne e osso.
Uma questão para a Igreja hoje é a missa online no YouTube ou em outros lugares. Entendo isso durante a pandemia ou como uma opção para pessoas que não podem sair. Mas estamos perdendo a fraternidade.
Em um texto de 2023, o papa Francisco dizia que a inteligência é um dom que o homem recebeu por ser criado à imagem de Deus. Como a Igreja vê o uso dessa palavra para se referir a modelos que, na prática, fazem previsão estatística?
Não acho correto usar essa palavra. Cometemos um erro grave no início de tudo. Essas máquinas emulam processos que chamamos de inteligência; mas não pensam, falam ou têm consciência. Sequer temos uma definição clara do que é a inteligência humana, como aplicar o mesmo termo às máquinas?
O Concílio do Vaticano 2 ressaltava o aspecto social do ser humano. O que muda quando passamos a nos relacionar com robôs, que passam a assumir o lugar de médicos, psicólogos e até padres?
Ouvi falar de dois casos de mulheres que se casaram com chatbots. E é muito interessante o que elas dizem para explicar essa escolha. Falam que estavam sozinhas, que ninguém conseguia compreendê-las, e então encontraram um robô disponível 24 horas por dia, que nunca as contesta. O problema não é a máquina ser capaz de fazer isso, é a fraternidade humana que se perde. Claro que eu jamais abençoaria uma união assim, mas a solução não é eliminar o robô e sim oferecer relações reais. A máquina é a solução mais fácil, não a mais humana.
A OpenAI chegou a anunciar que permitiria a geração de conteúdo erótico no ChatGPT e, agora, voltou atrás. Mas há outros chatbots com viés romântico ou erótico. Como vê esse uso da tecnologia?
Toda nova tecnologia acaba sendo usada para pornografia. É triste, porque a tradição cristã sempre ligou sexualidade e amor. É essa ligação que tentamos proteger ao colocar a sexualidade no contexto do amor entre as pessoas. Sexo sem amor é empobrecido, sexo com uma máquina é terrível. Não se pode amar uma máquina, é uma experiência pobre.
Nós nos preocupamos com nossas crianças e adolescentes, que vão descobrir sua sexualidade pela pornografia. Na Europa, o primeiro contato com esse tipo de conteúdo é aos 8 anos. Antes de ser um problema moral, é um problema humano, por que qual é a ideia de sexualidade que brota daí? Qual é a ideia do papel da mulher? A mulher é um objeto [na pornografia].
Recentemente, veio a público o conteúdo de uma série de palestras que o bilionário da tecnologia Peter Thiel vem dando pelo mundo. Thiel, que é cristão e conservador, defendeu que o anticristo vai chegar ao poder usando o discurso de que a ciência e a tecnologia são ameaças à humanidade. Como viu essa leitura?
Li as notícias sobre essas palestras. Sinto-me tocado pela conexão que por vezes aparece entre tecnologias modernas e o sentimento religioso. Veja, eu sou um padre, trabalho no Vaticano, mas não gosto de criar uma narrativa religiosa quanto à tecnologia. Não vejo o anticristo em nada disso. Acho que o anticristo aparece em toda experiência humana, porque ele é a tentação constante por ampliar nosso egoísmo, avidez e isolamento.
Em grego, usamos a palavra “diabolos”, aquele que provoca a divisão. O anticristo é o divisor, o que torna o ser humano solitário. Em toda época e cultura, ele tenta deixar o homem isolado e preso ao egoísmo, contra o amor e a fraternidade.
Não vejo na inteligência artificial uma aparição muito forte do anticristo. Ao mesmo tempo, costuma surgir a ideia da IA como uma nova religião. Nós, igrejas cristãs, temos a oportunidade de oferecer ao mundo um grande serviço; em certo sentido, a tradição judaico-cristã é a melhor crítica que a cultura ocidental produziu em séculos contra a idolatria. E hoje vemos a tentação da idolatria surgindo outra vez. Essas tecnologias são os novos ídolos.
Peter Thiel vê tentativas de governança global da tecnologia como um sinal demoníaco. A ideia de um “governo mundial” é vista do mesmo jeito por cristãos conservadores pelo mundo. Como vê essa perspectiva? A Igreja apoia a ideia de uma governança internacional para a IA?
Não temos escolha quanto a ter ou não uma governança global da IA, porque temos o mesmo objeto, o smartphone, em 5 bilhões de bolsos pelo mundo. A transformação digital é um acontecimento global, ainda que com diferentes implicações em diferentes culturas.
Seria ingênuo querer regular a IA só da minha perspectiva. Cada cultura pode produzir boas ideias [de regulação], mas essa é uma tecnologia que nos conclama a construir uma visão comum. É claro que não vamos ter os mesmos projetos para todos em todos os lugares. Mas a IA nos traz o desafio de equilibrar local e global.
A Igreja Católica é uma instituição global que conseguiu, através dos séculos, propagar a boa nova do Evangelho e fazê-la habitar diferentes culturas. Veja as imagens da Virgem Maria ao redor do mundo. Ela é sempre a Virgem com o menino, mas tem representações como negra, branca, amarela, vestida com roupas locais. É um experimento incrível. A Igreja encontrou um jeito de unir [sua doutrina] às tradições locais.
A Igreja tem hoje uma agenda concreta de regulação da IA?
Primeiro, como eu disse, precisamos de regulação. Mas é claro que normas sem uma visão não são o suficiente. Não adianta ter normas de trânsito sem ter uma estrada e um lugar aonde ir. Então o primeiro ponto é saber o que queremos.
O segundo é a regulação em si. Há um documento, proposto pela Academia Pontifícia pela Vida em 2020, que recebeu o título de Chamado de Roma pela IA Ética. Não é um documento com normas regulatórias, mas que oferece seis princípios [éticos] e aponta três áreas de impacto: ética, educação e direitos humanos. Claro que só esse documento não é o suficiente, mas ele é uma plataforma a partir da qual começar a regulação.
Há um debate no Ocidente agora se uma regulação tão detalhada, como a União Europeia propõe, pode fomentar o desenvolvimento dessa tecnologia. Alguns dizem que com tantas regras estamos matando a pesquisa científica e a indústria digital europeia. Não temos uma posição quanto a isso, qualquer regulação deve equilibrar diferentes finalidades e isso não é simples. Mas não concordamos que é melhor sem nenhuma regra.
Como tem sido a relação da Academia com as empresas de tecnologia?
Assim que começamos a trabalhar no assunto, fomos procurados por empresas. Alguns executivos dizem saber que o que estão fazendo é tão poderoso que precisa de uma reflexão maior. O presidente da Microsoft nos disse que, na sede da empresa, há milhares de engenheiros, economistas e advogados, mas nenhum profissional humanista.
Discutimos entre nós a oportunidade de trabalhar com essas empresas e resolvemos assumir o risco. Defendemos uma IA ética, mas não podemos jogar as questões éticas para o usuário final. Precisamos de uma ética embutida na tecnologia. Nenhuma tecnologia é neutra, cada uma delas traz em si uma visão de humanidade e sociedade. Por isso, se quisermos ampliar o debate, precisamos envolver quem produz essas tecnologias. Hoje temos uma massa crítica sobre ética da IA que não existe em muitas outras áreas da ciência. Acho que esse foi um dos frutos desse trabalho com as empresas.
Raio-x
Andrea Ciucci é secretário-coordenador da Academia Pontifícia pela Vida, instituição que assessora o Vaticano em debates científicos e tecnológicos. Nascido em Milão, na Itália, em 1967, foi ordenado padre em 1992. É teólogo e doutor em filosofia contemporânea pelo Pontificio Ateneo Sant’Anselmo, em Roma. Serviu durante três anos no Conselho Pontifício da Família e, antes disso, atuou durante 20 anos como sacerdote na diocese de Milão.