IA: o que propõe o Papa

Leão XIV intervém, com peso político e simbólico, numa disputa crucial e ainda indefinida. Seus pontos: domínio das big techs é ilegítimo; dados, algoritmos, programas e infra-estruturas, são parte do Comum; Estados precisam intervir

Foto: Igreja Católica da Inglaterra e País de Gales / Flickr

Título original:
Neemias digital

Em 25 de maio, o Papa Leão XIV publicou sua primeira encíclica social, Magnifica Humanitas. Não se trata de mais um documento religioso sobre os “perigos da tecnologia”. Estamos diante do mais consequente tratado de geopolítica e economia política da IA publicado por um Estado nacional em pelo menos uma década. Os governos e empresas farão bem em lê-lo como tal.

A escolha da data não é decorativa. Ao lançar a encíclica no aniversário da Rerum Novarum (1891), de Leão XIII, o atual pontífice inscreve-se numa linhagem precisa. Onde o predecessor enfrentou a questão operária da Revolução Industrial, Leão XIV propõe-se a enfrentar as res novae da revolução digital. A operação é simbólica e doutrinária ao mesmo tempo.

O Papa enquadra a encruzilhada em duas imagens bíblicas. De um lado, a Torre de Babel, empreendimento centralizado e homogeneizador que dispensa o transcendente. De outro, a “via de Neemias”, reconstrução partilhada das muralhas de Jerusalém, em que cada comunidade edificou seu trecho coletivamente. A escolha desta segunda imagem para o título deste artigo é deliberada, pois Neemias é a metáfora exata do que precisamos construir contra as Babéis digitais erguidas hoje no Vale do Silício, em Shenzhen e nos data centers que se espalham pelo mundo.

Deixo de lado, nesta análise, os aspectos éticos e espirituais do documento para tratar de suas duas teses mais contundentes. A primeira denuncia a abdicação dos Estados nas decisões sobre IA. A segunda propõe que dados, algoritmos, patentes e infraestruturas digitais sejam tratados como bens comuns universais. Juntas, elas constituem a proposição política mais corajosa que se ouviu sobre o tema — mais incisiva do que dezenas de relatórios da ONU ou comunicados de blocos regionais que, nos últimos anos, em nada alteraram a jornada da humanidade rumo aos riscos trazidos pela nova tecnologia. Em relação a novas tecnologias, sou testemunha desta produção inócua, por vezes acovardada, de resoluções sobre a agenda digital no sistema internacional desde 2016.

A privatização da soberania

O diagnóstico geopolítico do documento é cirúrgico e merece ser repetido sem rodeios. O desenvolvimento tecnológico deixou de ser coordenado pelos Estados e migrou para sujeitos privados transnacionais cujos recursos superam os de muitos governos. Antonio Spadaro classifica a encíclica como “a resposta institucional mais significativa à IA por parte de uma grande organização religiosa mundial”. É pouco. Trata-se, em rigor, da resposta institucional mais significativa de qualquer instituição global, religiosa ou não.

A consequência dessa privatização é o que Leão XIV nomeia como “nova assimetria epistêmica, econômica e política”. Ao abdicarem do papel indutor, os Estados se reduzem a consumidores de tecnologias proprietárias cujos termos não negociaram. Segundo a ONU, a IA pode movimentar 4,8 trilhões de dólares até 2033, com lucros concentrados em pouquíssimos atores. Os países do Sul Global são, neste arranjo, rebaixados à condição de meras colônias de dados.

A encíclica não titubeia ao afirmar que, “na era da IA e da robótica, já não é possível confiar apenas na ‘mão invisível’ do mercado”. E vai além ao desmontar o solucionismo tecnocrático em uma frase que dispensa exegese. “Não precisamos de uma IA mais moral, se esta moral for decidida por poucos”. Sintomático que o próprio Christopher Olah, cofundador da Anthropic — empresa convidada pelo Vaticano para a apresentação do documento —, tenha admitido publicamente que o desenvolvimento da IA “não pode ficar apenas nas mãos das empresas de tecnologia”. Quando o capital reconhece o problema, está dito que ele é estrutural.

É preciso ser explícito sobre o que essa constatação implica. Vivemos um momento em que a regulação estatal é sabotada, ridicularizada e tornada irrelevante pela velocidade com que o setor privado impõe fatos consumados. O governo de Donald Trump trabalha para desregulamentar a IA. Na própria semana do lançamento da encíclica, o presidente chegou à véspera de assinar uma medida federal para avaliar modelos antes da liberação pública e voltou atrás na hora; a União Europeia aprova marcos que já nascem defasados; o Sul Global sequer dispõe de infraestrutura institucional para participar do debate. A encíclica nomeia esse vazio como o que ele é — uma abdicação que transfere decisões civilizatórias para conselhos de administração cujo único dever fiduciário é com seus acionistas.

Babel como metáfora

Há uma dimensão dessa abdicação que o jornalismo de tecnologia começa a nomear. Em análise publicada no The New York Times, David Streitfeld observa que o Vale do Silício passou a ocupar terreno historicamente religioso e a comprovação vem da própria indústria. Bill Gates afirma que a IA “quase se pode chamar uma nova religião”. Garry Tan, presidente da Y Combinator, declara que “as pessoas estão prontas para tornar a AGI seu deus”. Peter Thiel dá palestras sobre o Anticristo. Anthony Levandowski, ex-engenheiro do Google, fundou literalmente uma igreja para “promover a realização de uma Divindade baseada em inteligência artificial”.

O vazio deixado pelos Estados, portanto, não é só regulatório. É uma disputa pelo monopólio das perguntas finais — quem somos, para onde vamos, o que devemos esperar — que até ontem cabiam à filosofia, à política e às religiões organizadas. Babel, a imagem que abre este texto, era um projeto técnico e teológico ao mesmo tempo. O que se constrói no Vale do Silício também é.

Destinação universal dos bens digitais

A segunda tese é conceitualmente mais radical. Historicamente, a Doutrina Social da Igreja sustenta que a propriedade privada nunca é absoluta. Leão XIV estende a lógica de modo expresso ao ecossistema digital, de modo que a destinação universal dos bens passa a abranger patentes de software, algoritmos, plataformas, infraestruturas computacionais e bases de dados.

Os dados, argumenta o Papa, resultam do acúmulo das interações sociais, da linguagem e da cultura de bilhões de pessoas. Por isso, “são fruto da contribuição de muitos e não podem ser vendidos ou confiados a poucos”. Devem ser geridos como data commons. Lafayette Pozzoli, da PUC-SP, observa que “uma encíclica não é um documento apenas para católicos; ela inspira diretrizes ao longo dos tempos, funcionando como referência ética e política em momentos de transformação histórica”. É exatamente esse o ponto. Para Paolo Carozza, presidente do conselho de supervisão da Meta, “este será um documento definidor de nossa era”.

Convém medir a radicalidade da proposição. Não se trata de pedir “mais ética” às corporações — pedido que invariavelmente se traduz em departamentos de ethics washing e relatórios que ninguém lê. Trata-se de afirmar, com autoridade doutrinária, que o regime de propriedade intelectual que sustenta o ecossistema de IA é moralmente questionável quando bloqueia o acesso universal a um conhecimento produzido coletivamente. Em termos práticos, isso significa armar a sociedade civil e os Estados com o arsenal conceitual necessário para exigir quebra de patentes, interoperabilidade compulsória, auditorias independentes de algoritmos e infraestruturas públicas de dados. É a única governança global à altura daquilo que a IA já é na prática, uma “coisa” pública.

Dois projetos civilizatórios incompatíveis

Confronte-se, ponto a ponto, o paradigma proposto pela encíclica e o praticado pelo setor. Onde o ecossistema atual concentra poder em oligopólios transnacionais, o documento reivindica comunidades locais, Estados democráticos e instâncias multilaterais. Onde a indústria trata dados como mercadoria proprietária extraída sem consentimento real, a encíclica os define como bem comum. A “soberania corporativa” que dita as regras éticas do código é confrontada pela exigência de soberania digital dos povos. A cadeia produtiva real — extração de minérios, exploração de trabalhadores que rotulam dados, moderação em condições degradantes — é denunciada como incompatível com o trabalho digno. E onde o objetivo do sistema é otimização da atenção e vantagem geopolítica, a encíclica propõe o bem comum e o “desarmamento cognitivo”. Não são nuances. São dois projetos civilizatórios incompatíveis.

A Magnifica Humanitas não é, contudo, um manifesto tecnofóbico. Leão XIV reconhece que a inovação pode ser participação no ato divino da criação. Mas adverte que é capitulação política aceitar o poder corporativo sem contrapeso. Ao clamar por “desarmar a IA”, o Papa convoca a comunidade internacional a retirar a tecnologia da lógica da competição armada. A síntese oficial do Vaticano não disfarça. É preciso “desarmar a IA para subtraí-la à lógica da competição militar, econômica e cognitiva; para romper a equivalência entre poder técnico e direito de governar; para subtraí-la aos monopólios e impedir que domine o humano”.

Que esse convite extrapole o público católico já está documentado. Greg Epstein, capelão humanista de Harvard e do MIT e autor declaradamente ateu, resumiu a aposta ao New York Times sem rodeios. “O Papa está fazendo o trabalho do Senhor aqui, e digo isso como ateu. Existem pouquíssimas instituições no planeta com a gravitas, a força e a rede comunitária para enfrentar este fenômeno, que está tentando tornar-se inevitável e sobre-humano”. Quando um humanista ateu de Harvard reconhece a urgência do instrumento doutrinário, deixa de ser plausível tratar a encíclica como assunto interno da Igreja.

O documento recorda ainda as novas formas de escravidão na cadeia produtiva da IA e, pela primeira vez, um Papa pede perdão pelo atraso histórico da Igreja em condenar a escravidão. O recado é claro. Se assistirmos passivamente à privatização da mente humana, “no futuro, talvez tenhamos de pedir perdão de novo”. A Magnifica Humanitas é, sobretudo, um convite — dirigido não apenas a católicos, mas a qualquer pessoa que ainda acredite que a política existe para subordinar o poder econômico ao interesse coletivo — para que se tome posição antes que o cercamento monopolista da inteligência se torne irreversível.

Outras Palavras é feito por muitas mãos. Se você valoriza nossa produção, contribua com um PIX para outrosquinhentos@outraspalavras.net e fortaleça o jornalismo crítico.

 Publicado originalmente por: OUTRAS PALAVRAS