"A inteligência artificial não é neutra." Essa frase abre a encíclica Magnifica Humanitas, assinada pelo Papa Leão XIV em 15 de maio de 2026, no 135.º aniversário da Rerum Novarum, a encíclica social de Leão XIII que marcou a posição da Igreja diante da Revolução Industrial. A continuidade não é coincidência: Leão XIV escolheu o próprio nome papal precisamente por enxergar nesse momento histórico um paralelo com o que a Igreja enfrentou no final do século XIX.

Quando li o documento, fiz um exercício pessoal. Cruzei o que o Papa escreve com os seis princípios de IA Confiável que sistematizo em um dos livros de que sou coautora, a partir de fontes como a OCDE e a UNESCO. A convergência é desconcertante. Não porque um copia o outro, mas porque estamos, ao que parece, diante do mesmo problema, visto de ângulos completamente diferentes.

Esse artigo é o registro desse exercício.

O que é a Magnifica Humanitas e por que não é texto religioso de circunstância

A Magnifica Humanitas, cuja tradução literal é "Magnífica Humanidade", é a primeira encíclica do Papa Leão XIV e foi publicada em 25 de maio de 2026. O documento tem cinco capítulos e foi escrito com o apoio de cientistas e pesquisadores da área, o que lhe confere uma densidade técnica incomum para esse tipo de documento. Não é uma reflexão pastoral sobre perigos abstratos da tecnologia. É um posicionamento institucional, com vocabulário preciso, sobre como a inteligência artificial desafia categorias centrais da Doutrina Social da Igreja: dignidade humana, bem comum, solidariedade, justiça social.

A escolha da data não é casual. Ao assinar a encíclica no 135.º aniversário da Rerum Novarum, Leão XIV traça uma linha direta entre o desafio da Revolução Industrial e o desafio da IA. Em ambos os momentos, uma transformação tecnológica concentrou poder econômico e criou novos riscos para quem trabalha, para quem é governado, para quem não controla os instrumentos de produção. A Rerum Novarum respondeu à questão operária. A Magnifica Humanitas responde à questão algorítmica.

O documento coloca a ética da IA no centro da Doutrina Social, não como tema periférico ou de circunstância, mas como desdobramento necessário de valores que a Igreja defende há séculos: a irredutibilidade da pessoa humana, a centralidade da responsabilidade, a recusa à instrumentalização do outro.

Os seis princípios de IA Confiável: o que são e de onde vêm

Antes de entrar na convergência com a encíclica, vale situar o referencial técnico com que faço esse exercício.

Os seis princípios de IA Confiável que sistematizo no livro de que sou coautora derivam de documentos de referência global, em especial das diretrizes da OCDE, Organização para a Cooperação e Desenvolvimento Econômico, e da Recomendação da UNESCO sobre a Ética da IA, adotada por seus 193 estados membros em 2021. São eles:

Transparência: sistemas de IA devem ser compreensíveis para quem é afetado por eles. Responsabilidade: deve haver um sujeito humano que responde pelas decisões que a IA informa ou executa. Justiça e não viés: sistemas de IA não devem discriminar ilegitimamente grupos ou indivíduos. Privacidade: o tratamento de dados pessoais em sistemas de IA deve respeitar direitos fundamentais. Explicabilidade: as razões pelas quais um sistema de IA chegou a determinado resultado devem poder ser compreendidas e comunicadas. Robustez: sistemas de IA devem funcionar de forma confiável, segura e resiliente, inclusive diante de tentativas de manipulação.

Esses princípios não são aspirações filosóficas. São critérios operacionais que fundamentam regulações como o EU AI Act, o regulamento europeu de inteligência artificial que classifica sistemas por nível de risco, e normas técnicas como a ISO/IEC 42001, a norma internacional de sistemas de gestão de inteligência artificial.

O que o Papa diz e onde os princípios se encontram

A Magnifica Humanitas usa três conceitos que merecem atenção direta de quem trabalha com governança de IA.

O primeiro é o que o documento chama de "arquitetura da visibilidade", expressão usada para denunciar a opacidade algorítmica: a forma como sistemas de IA organizam o que as pessoas veem, ouvem e acreditam, sem que essa organização seja transparente ou auditável. É a ausência de transparência e de explicabilidade. É exatamente o que os princípios de IA Confiável buscam corrigir.

O segundo conceito é o "novo extrativismo colonial", com que o Papa descreve a coleta massiva de dados de populações que não compreendem o que é coletado, para que serve e quem se beneficia. É a ausência de privacidade e de justiça. Dados extraídos de comunidades vulneráveis, usados para treinar modelos que servem a interesses que não são os delas.

O terceiro ponto é o mais incisivo: a advertência de que delegar decisões sensíveis à aparente objetividade matemática esconde escolhas humanas que precisam ser auditadas. Algoritmos não são neutros. Eles carregam as escolhas de quem os projeta, de quem os financia, de quem define seus objetivos. Essa é exatamente a tese central da responsabilidade como princípio: a cadeia de accountability, a prestação de contas, não pode ser interrompida pela presença de uma máquina no processo.

A convergência não é superficial. O Papa e os frameworks técnicos partem de premissas diferentes e chegam às mesmas perguntas.

O ponto mais duro: a desumanização da decisão e o sujeito da responsabilidade

O trecho mais difícil da encíclica é aquele em que Leão XIV aborda a IA em contextos militares, afirmando que nenhum algoritmo pode tornar a guerra moralmente aceitável, e que toda tecnologia que facilita atacar sem ver o rosto do adversário rebaixa o limiar moral do conflito.

O argumento interessa muito além do contexto bélico. O Papa está articulando um princípio: a desumanização da decisão letal. E esse princípio se aplica a qualquer decisão que afete profundamente a vida de uma pessoa.

Quando um sistema de IA decide se um indivíduo recebe crédito ou não, ele está tomando uma decisão com consequências reais sobre a vida daquela pessoa. Quando um algoritmo de triagem de currículos elimina candidatos antes que qualquer humano os veja, ele está tomando uma decisão de contratação. Quando um sistema de apoio a decisão judicial pondera a probabilidade de reincidência, ele está participando de uma decisão que pode restringir a liberdade de alguém.

Em todos esses casos, o risco é o mesmo: perdemos o sujeito da responsabilidade. Se a máquina decide e ninguém responde por isso, a cadeia de accountability se rompe. E sem sujeito responsável, não há como exigir reparação. Não há como questionar. Não há como corrigir. Não há justiça possível.

Esse é o núcleo do princípio de responsabilidade em IA Confiável: decisões críticas precisam ter um humano que as assina. Não que supervisione passivamente, mas que as assuma. A IA pode informar, sugerir, calcular. A decisão, quando envolve direitos fundamentais, precisa ter nome e sobrenome.

O paralelo com a Revolução Industrial e o risco de poluição social

O paralelo histórico que faço com a Revolução Industrial é direto: ela enriqueceu poucos e deixou poluição para muitos. Levamos décadas para aprender a cobrar de quem polui — décadas de regulação ambiental, de pressão social, de litígio. Quando a fumaça das fábricas começou a matar, ninguém havia inventado ainda o conceito de externalidade ambiental. O custo era real, mas não estava na conta de quem o gerava.

A IA carrega o risco de produzir uma poluição social equivalente. Mercados consumidores que se esvaziam porque as pessoas perdem renda ao serem substituídas por sistemas automatizados. Abismos de desigualdade entre quem controla a tecnologia e quem é controlado por ela. Concentração de poder econômico e cognitivo em poucos agentes globais.

A tecnologia salva, melhora, é inexorável. Nenhuma análise honesta nega isso. Mas a inexorabilidade não é argumento contra a regulação. A energia elétrica também era inexorável. O automóvel também era. O que se exige não é a interrupção do avanço tecnológico, mas a existência de guarda-corpos que deem tempo de adaptação, que distribuam os benefícios com mais equidade e que façam com que quem gera o custo social responda por ele.

É aí que a governança ética de IA passa do território corporativo para o território civilizatório. Não é mais apenas uma questão de compliance, de adequação regulatória de organizações. É uma questão de como uma sociedade decide quem é responsável pelo que as máquinas fazem.

A influência moral e o que ela invoca

O Papa tem a influência moral para chamar a atenção global para o que está em jogo. A Magnifica Humanitas faz isso com precisão e sem romantismo tecnofóbico. O documento não é contra a IA. É contra a IA sem sujeito, sem responsabilidade, sem accountability.

Essa é também a posição que defendo como especialista em governança de dados e IA. Governança ética de IA não é obstáculo ao desenvolvimento tecnológico. É a condição para que esse desenvolvimento seja sustentável — social, econômica e humanamente.

A convergência entre a encíclica e os frameworks técnicos de IA Confiável não é uma curiosidade intelectual. É um sinal de que a agenda é real, urgente e mais ampla do que qualquer campo disciplinar pode abarcar sozinho. Quando a ética chega ao mesmo ponto vindo de lugares tão diferentes, vale parar e prestar atenção.

Perguntas frequentes sobre a Magnifica Humanitas e IA Confiável

O que é a encíclica Magnifica Humanitas? A Magnifica Humanitas é a primeira encíclica do Papa Leão XIV, publicada em 25 de maio de 2026 e assinada em 15 de maio, no 135.º aniversário da Rerum Novarum. O documento, com cinco capítulos, trata da salvaguarda da pessoa humana na era da inteligência artificial e foi escrito com o apoio de cientistas e pesquisadores da área. Coloca a ética da IA no centro da Doutrina Social da Igreja.

O que são os seis princípios de IA Confiável? Os seis princípios de IA Confiável são: transparência, responsabilidade, justiça e não viés, privacidade, explicabilidade e robustez. Derivam de documentos de referência global, especialmente das diretrizes da OCDE e da Recomendação da UNESCO sobre a Ética da IA. Esses princípios fundamentam regulações como o EU AI Act e normas técnicas como a ISO/IEC 42001.

O que significa "arquitetura da visibilidade" na encíclica? "Arquitetura da visibilidade" é o termo usado na Magnifica Humanitas para descrever como sistemas de IA organizam o que as pessoas veem e ouvem sem transparência ou possibilidade de auditoria. O conceito denuncia a opacidade algorítmica — a ausência dos princípios de transparência e explicabilidade nos sistemas que moldam percepções e decisões coletivas.

O que é o "novo extrativismo colonial" mencionado pelo Papa? O "novo extrativismo colonial" é a expressão usada na encíclica para descrever a coleta massiva de dados de populações que não compreendem o que é coletado, para que finalidade serve e quem se beneficia. O conceito conecta a extração de dados a práticas históricas de extração de recursos naturais de comunidades vulneráveis sem compensação ou consentimento real.

Por que a decisão por IA em contextos críticos é um problema de responsabilidade? Quando sistemas de IA tomam ou informam decisões críticas, como concessão de crédito, contratação ou avaliações judiciais, sem que um humano assuma a responsabilidade pelo resultado, rompe-se a cadeia de accountability. Sem um sujeito responsável identificável, não há como exigir reparação, questionar o critério ou corrigir o erro. Esse é o princípio central da responsabilidade em IA Confiável: decisões que afetam direitos fundamentais precisam ter um humano que as assina.

Qual é a relação entre a encíclica e os frameworks técnicos de governança de IA? A Magnifica Humanitas e os frameworks técnicos de IA Confiável, derivados de OCDE, UNESCO e normas como a ISO/IEC 42001, convergem em seus diagnósticos centrais: a IA não é neutra, sistemas opacos são problemáticos, a responsabilidade humana é inalienável e a concentração de poder tecnológico gera riscos sociais que precisam ser regulados. A convergência parte de premissas diferentes — uma teológica e social, a outra técnica e normativa — e chega às mesmas perguntas.

Quando lugares diferentes chegam ao mesmo ponto

A Magnifica Humanitas não será lida como manual de governança de IA. E os frameworks técnicos da OCDE e da UNESCO não serão lidos como documentos doutrinários. Mas ambos estão respondendo à mesma questão: como proteger a pessoa humana diante de sistemas que tomam decisões sobre sua vida, com velocidade e escala que superam qualquer capacidade de supervisão individual?

A governança ética de IA é a resposta técnica e institucional a essa pergunta. E quando a mesma resposta emerge de lugares tão diferentes, o que isso nos diz não é que um lado tem razão sobre o outro. É que o problema é real o suficiente para ser visto de qualquer ângulo.

Sobre a autora

Consuelo Rodrigues é especialista em governança de dados, proteção de dados, privacidade e governança de inteligência artificial. Cofundadora da Privacidade+, é DPO certificada e Lead Auditor das normas ISO/IEC 27001, 27701 e 42001. Foi nomeada Ethical Data & AI Governance Advisor to the Presidency do DAMA Brasil para o mandato 2026-2028. Atua na Keyrus em projetos de Data and AI Governance para organizações de médio e grande porte. É coautora de livro sobre IA Confiável com base em frameworks da OCDE e da UNESCO. Tem mais de 30 anos de experiência em TI e formação pelo MBA da Fundação Dom Cabral.