Leão XIV e a humanidade que delegámos à IA

À meia-noite e doze, numa cozinha de Lisboa, uma mulher tenta escrever uma mensagem de condolências. Não é uma cena solene. Há uma chávena de chá esquecida junto ao lava-loiça, uma faca pousada sobre um prato com migalhas e a luz azulada de um telemóvel a fazer do tampo da mesa uma pequena capela elétrica. Lá fora, num prédio em frente, uma janela continua acesa. Alguém vê televisão. Alguém trabalha. Alguém não consegue dormir.

A inteligência artificial entre a ajuda, a dependência e a perda da palavra humana.

A mulher escreve três palavras, apaga duas, volta ao princípio. Quer dizer alguma coisa a uma colega cujo pai morreu. Não quer ser fria, mas também não quer representar uma intimidade que não existe. A morte, quando entra na vida dos outros, pede-nos uma delicadeza difícil: estar perto sem ocupar o lugar da dor.

Acaba por escrever no telemóvel: “Mensagem breve para uma colega cujo pai morreu. Tom humano, simples, sem ser demasiado íntimo.”

O cursor pisca durante um segundo. Depois aparece uma frase quase perfeita. Correta, respeitosa, limpa. A mulher lê, muda uma palavra, tira outra, acrescenta o nome da colega. A mensagem fica melhor. Ou apenas fica menos impessoal. Carrega em enviar.

A máquina ajudou um gesto de cuidado. Não há aqui o fim da humanidade, nem uma cena de ficção científica com barulho metálico e portas que se fecham. Há apenas uma pessoa cansada, uma perda alheia e uma frase que não queria nascer. Talvez a inteligência artificial tenha começado a tornar-se decisiva não quando passou a escrever códigos complexos ou a produzir imagens impossíveis, mas quando entrou nesse intervalo mínimo entre a intenção e a palavra.

A encíclica Magnifica Humanitas, de Leão XIV, habita esse intervalo. Não nos pede apenas que olhemos para a máquina como inovação, risco, promessa ou ameaça. Obriga-nos a perguntar que partes da nossa humanidade estamos a transferir, pouco a pouco, para sistemas que respondem sem experiência, organizam sem consciência e simulam sem corpo.

Não entregamos tudo de uma vez. Quase nunca é assim que as grandes transformações entram numa casa. Começamos por delegar o que nos aborrece. Depois o que nos atrasa. Depois o que nos pesa. Mais tarde, discretamente, aquilo que exigia de nós uma presença mais inteira: uma resposta, uma decisão, uma dúvida, uma palavra de consolo, uma explicação dada a uma criança, uma primeira leitura do mundo.

A inteligência artificial não apareceu como invasão. Apareceu como ajuda. E há ajudas preciosas. Um médico ganha tempo. Um investigador organiza informação. Um professor prepara melhor uma aula. Um cidadão compreende um documento que antes lhe parecia inacessível. Um trabalhador escreve com mais clareza. Uma pessoa sozinha encontra uma formulação quando a vergonha, o medo ou o cansaço lhe bloqueiam a mão.

O risco começa quando a ajuda deixa de ser exceção e passa a ser atmosfera.

Leão XIV não escreve contra a técnica. Isso seria demasiado pobre. A tradição católica, quando está à altura de si mesma, não confunde prudência com medo. A técnica faz parte da história humana, nasce da inteligência, da necessidade, da liberdade, da imaginação e também da ferida. Desde sempre construímos utensílios para ampliar o corpo, vencer a distância, aliviar o peso, curar a dor, aumentar a memória. Agora, o instrumento entra no lugar onde antes julgávamos estar a nossa singularidade: a linguagem, a decisão, o juízo, a representação, a escolha.

A máquina já não se limita a levantar mais peso do que nós. Escreve por nós, resume por nós, classifica por nós, recomenda por nós, seleciona por nós, responde por nós. E, por vezes, fá-lo com tal fluência que nos obriga a uma pergunta embaraçosa: se a resposta é boa, ainda importa quem a viveu?

Lisboa conhece bem estas substituições discretas. A cidade muda quase sempre assim: primeiro uma loja fecha “temporariamente”; depois vem uma obra; depois uma fachada limpa demais; depois uma tabuleta em inglês; depois o bairro continua a chamar-se bairro, mas já não se reconhece a si mesmo ao espelho. Ninguém decretou a perda. Ela foi sendo delegada em rendas, plataformas, licenças, promessas de modernização, mapas de investimento e fotografias bonitas.

Com a inteligência artificial, o risco é mais íntimo. Não perdemos apenas lugares. Podemos começar a perder gestos. A carta difícil. A espera antes da resposta. A frase imperfeita mas nossa. O erro que ensina. O silêncio que obriga a pensar. A demora que transforma uma reação em juízo.

A encíclica coloca a questão no interior da Doutrina Social da Igreja, com uma memória deliberada: Leão XIV escolhe o nome de Leão olhando para Leão XIII, o Papa de Rerum Novarum. Em 1891, a grande questão era a ferida social aberta pela industrialização: o trabalho, o salário, a propriedade, a exploração, a dignidade do operário diante da máquina e do capital. Hoje, a pergunta regressa com outro rosto. Que acontece à pessoa quando a máquina deixa de estar apenas na fábrica e passa a estar dentro da linguagem, do trabalho intelectual, da comunicação, da guerra, da escola, da administração pública, da intimidade?

A velha fábrica tinha barulho, turnos, fumo, patrões visíveis e corpos exaustos. A nova fábrica é mais silenciosa. Pode estar num servidor distante, numa aplicação limpa, num painel de produtividade, num sistema de triagem, numa ferramenta de avaliação, numa caixa de texto. Não cheira a óleo nem a ferro. Cheira a atualização.

Há uma violência peculiar naquilo que se apresenta como melhoria inevitável. Numa empresa, um trabalhador descobre que cada gesto passou a ser medido. O tempo de resposta, a produtividade, a linguagem usada com clientes, os intervalos, os atrasos, os desvios ao padrão. Ninguém lhe grita. Talvez ninguém precise. O painel sabe. O sistema compara. A recomendação chega com a frieza de uma frase administrativa. O que antes era relação laboral torna-se cálculo contínuo.

Noutra ponta da cidade, uma professora lê trabalhos demasiado bem escritos por alunos que ainda tropeçam quando têm de explicar em voz alta o que supostamente defenderam no papel. Não se trata de nostalgia da dificuldade. A aprendizagem sempre usou ferramentas. Uma criança, contudo, pode perder o direito ao seu próprio erro antes de perceber que o erro era parte da formação da voz.

A escola é mais do que um lugar onde se transmite matéria. É uma oficina moral da lentidão. Ensina a procurar, a falhar, a refazer, a ouvir uma objeção, a suportar a insuficiência da primeira tentativa. Se a inteligência artificial entra ali apenas como atalho, talvez produza textos mais limpos e pessoas menos formadas. Se entrar como instrumento crítico, pode ajudar. Tudo depende da pergunta anterior: estamos a formar sujeitos ou a otimizar resultados?

Magnifica Humanitas insiste na dignidade humana porque sabe que a eficiência, sozinha, não tem travão. A eficiência pergunta pelo mais rápido, pelo mais barato, pelo mais previsível, pelo mais escalável. Não pergunta, por si mesma, pelo justo. Nem pelo digno. Nem pelo humano. Essa pergunta tem de vir de fora da máquina, ou não virá.

Durante anos, parte da cultura tecnológica falou de si mesma com uma linguagem quase religiosa. Missões, comunidades, salvação do mundo, nova humanidade, futuro inevitável. Os velhos púlpitos foram substituídos por palcos de conferência; os sermões, por apresentações; as promessas de redenção, por gráficos de crescimento e demonstrações de produto. A roupa mudou. O impulso messiânico, nem tanto.

A encíclica responde a essa religião sem liturgia com uma pergunta antiga: quem é o homem? Não o utilizador. Não o consumidor. Não o perfil. Não o conjunto de dados. O homem. A mulher. A criança. O velho. A pessoa com corpo, medo, memória, desejo, cansaço, culpa, esperança. Aquilo que nenhuma métrica consegue conter sem amputar.

A inteligência artificial pode imitar linguagem, mas não sabe o que é hesitar diante de uma porta de hospital. Pode escrever sobre amor, mas não fica anos à espera de uma chamada. Pode reconhecer padrões de sofrimento, mas não acorda às quatro da manhã com uma preocupação sem nome. Pode produzir frases sobre justiça, mas não sente vergonha. Pode ajudar-nos a pensar; não pode responder moralmente por nós.

O nosso tempo tem uma tentação conveniente: esconder decisões humanas atrás de sistemas técnicos. Quando um algoritmo exclui alguém, quando uma recomendação afasta um candidato, quando um modelo sinaliza risco, quando uma plataforma empurra informação falsa ou extremada, a responsabilidade dissolve-se em camadas. Foi o sistema. Foi a parametrização. Foi o modelo. Foi a base de dados. Foi a regra. Foi a escala.

Em Portugal conhecemos bem esta lógica da desresponsabilização, mesmo antes da inteligência artificial. O balcão culpa o regulamento, o regulamento culpa a plataforma, a plataforma culpa a “situação informática”, e a pessoa fica do lado de cá, com a senha na mão, a perceber que ninguém é exatamente culpado, mas alguém pagará o preço. A IA pode tornar esta cena mais rápida, mais sofisticada e menos contestável.

A encíclica lembra que a técnica não é neutra na prática porque tem o rosto de quem a concebe, financia, regula e utiliza. Cada sistema carrega uma visão do mundo. Decide o que conta, o que mede, o que ignora, o que considera exceção, o que trata como sobra. A neutralidade é muitas vezes a máscara elegante de escolhas feitas antes de o cidadão chegar.

A verdade é outro campo onde o documento de Leão XIV toca numa ferida contemporânea. A democracia não vive apenas de votos. Vive de um chão comum onde as palavras ainda possam ser discutidas sem se dissolverem imediatamente em suspeita. Uma sociedade precisa de saber que uma imagem tem origem, que uma voz pertence a alguém, que uma prova não é apenas aparência, que a linguagem pública não se tornou um grande teatro de simulações competentes.

A mentira, no passado, exigia algum esforço. Hoje pode ser produzida, multiplicada, adaptada e distribuída com uma facilidade que altera a própria ecologia da confiança. Não é preciso convencer todos. Basta cansar muitos. Basta tornar tudo duvidoso durante tempo suficiente para que a indiferença pareça inteligência.

Lisboa, vista de certas varandas ao fim da tarde, parece ainda uma cidade feita para a verdade dos olhos: a luz nas fachadas, a sombra dos telhados, o Tejo a alargar a distância. Mas mesmo essa cidade visível já vive dentro de outras camadas: mapas que nos conduzem, plataformas que nos sugerem, sistemas que nos avaliam, motores que nos mostram uma parte do mundo e escondem outra. O que vemos deixou de ser apenas o que está diante de nós. É também aquilo que alguém decidiu tornar visível.

Falar de inteligência artificial é falar de poder. Infraestruturas, dados, capital, centros de cálculo, dependência económica, influência política. A encíclica nota que, noutros tempos, os Estados orientavam grande parte da inovação. Hoje, muitos dos motores decisivos pertencem a entidades privadas transnacionais, com recursos que ultrapassam os de numerosos governos.

Isto muda a relação entre democracia e técnica. Um parlamento pode legislar sobre uma matéria já transformada, na prática, por empresas que não prestam contas aos cidadãos. Um governo pode querer regular sistemas cuja arquitetura profunda não domina. Uma escola pode discutir políticas de uso quando os alunos já vivem, fora dela, dentro de um ambiente em que a resposta automática se tornou normal. A soberania chega muitas vezes depois do hábito.

E os hábitos são difíceis de revogar.

A palavra “desarmar”, usada na encíclica, tem valor político e moral. Não significa destruir a tecnologia nem recusar o futuro. Significa retirar à técnica a sua pretensão de inocência. Uma máquina desarmada é uma máquina trazida para a praça pública, sujeita a escrutínio, limitada pelo bem comum, impedida de ocupar o lugar da consciência. Desarmar é perguntar quem beneficia, quem perde, quem responde, quem fica invisível, quem não tem sequer linguagem para contestar a decisão que o atingiu.

Há uma outra dimensão, menos institucional e talvez mais perturbadora: a liberdade. A inteligência artificial não precisa de nos prender para nos conduzir. Basta sugerir. Antecipar. Facilitar. Personalizar. Reduzir o atrito. Dar-nos a próxima frase, a próxima compra, o próximo vídeo, a próxima resposta, a próxima indignação. A mão desliza, a atenção cede, a vontade adapta-se. Continuamos a chamar escolha ao que talvez já tenha sido cuidadosamente preparado.

A liberdade raramente desaparece com uma sirene. Desaparece por conforto.

A crítica à inteligência artificial não é apenas crítica às empresas tecnológicas. É também crítica a nós próprios. Queremos ser ajudados. Queremos ser poupados. Queremos que a vida pese menos. Quem nos condenará por isso? Numa época de cansaço, precariedade, ansiedade e excesso de informação, a promessa de uma máquina que responde, organiza, escreve e decide parece quase compassiva.

Mas há pesos que nos humanizam. A dificuldade de encontrar a palavra certa. A obrigação de ouvir antes de responder. A experiência de não saber. O trabalho de construir uma opinião própria. O desconforto de assumir uma decisão. A paciência de ensinar. A humildade de aprender. Se delegarmos tudo o que nos custa, talvez deleguemos também parte daquilo que nos forma.

A encíclica fala de dependência, mercantilização, novas formas de escravidão. A linguagem é forte. Seria fácil rejeitá-la como exagero. Mas basta olhar para a vida comum: quantas pessoas passam o dia presas a sistemas concebidos para capturar atenção? Quantas decisões de consumo, trabalho, deslocação, relação e opinião são moldadas por arquiteturas invisíveis? Quantas crianças aprendem o desejo através de máquinas que conhecem melhor os seus impulsos do que elas próprias?

A guerra aparece na encíclica como o lugar onde esta pergunta se torna mais escura. A distância técnica pode tornar a violência mais administrável para quem a exerce. Um ecrã separa o gesto da consequência. Uma arma mais autónoma promete precisão, mas não responde pela justiça da ordem que recebe. A morte não se torna menos morte por ser mediada por sistemas sofisticados. Apenas se torna mais fácil para alguns olhos não a verem.

Leão XIV opõe a esta cultura de poder a expressão “civilização do amor”. Sei como a frase pode soar no nosso espaço público: demasiado ampla, demasiado piedosa, talvez até inútil. Estamos treinados para desconfiar de palavras que parecem vir sem orçamento, sem plano, sem calendário de execução. Mas, no corpo da encíclica, a expressão não funciona como enfeite devocional. Funciona como critério. Uma civilização mede-se pela forma como trata aqueles que a eficiência descartaria primeiro: os pobres, os doentes, os velhos, os migrantes, as crianças, os frágeis, os que não produzem, os que demoram.

O amor, aqui, não é sentimentalismo. É limite imposto ao poder.

Talvez seja esta a parte mais difícil de aceitar. O nosso tempo gosta de falar em inovação, mas fala pouco em renúncia. Queremos a técnica sem o domínio, a velocidade sem a precipitação, a personalização sem vigilância, a automação sem desemprego, a conveniência sem dependência, a abundância de linguagem sem perda de verdade. Queremos tudo, e preferíamos não pagar com aquilo que somos.

Lisboa, outra vez, oferece uma pequena lição involuntária. A cidade que se vende como experiência autêntica torna-se menos autêntica à medida que aprende a vender-se melhor. Quanto mais perfeita a imagem, mais frágil a vida que a sustentava. A inteligência artificial pode produzir algo semelhante na linguagem humana: respostas cada vez mais polidas, cartas cada vez mais adequadas, imagens cada vez mais verosímeis, pensamentos cada vez mais apresentáveis. A vida, porém, nunca foi apenas apresentação.

Há uma dignidade na frase torta. No silêncio. Na resposta que demora. Na imperfeição de quem escreve sem ter a certeza de estar à altura. A máquina pode ajudar-nos a atravessar essa dificuldade. Não deve abolir em nós a necessidade de atravessá-la.

A mulher da cozinha, à meia-noite e doze, não traiu a humanidade por pedir ajuda a uma ferramenta. Seria ridículo dizê-lo. Talvez tenha feito apenas aquilo que todos fazemos: procurou uma mediação para não falhar. O gesto humano não desapareceu. Estava na intenção, na revisão, no envio, talvez na memória da relação com a colega.

Mas a cena deixa uma pergunta que não cabe em manual de utilização. Se, um dia, já não escrevermos a primeira frase de consolo, nem a de desculpa, nem a de amor, nem a de protesto, nem a de despedida, em que ponto exatamente começará a perda? No primeiro pedido? No hábito? Na incapacidade posterior de escrever sem ajuda? Ou apenas no momento em que deixarmos de notar a diferença?

Magnifica Humanitas obriga a inteligência artificial a sair da sala dos milagres e a entrar na sala da responsabilidade. Não lhe pergunta apenas o que consegue fazer. Pergunta a quem serve, quem a controla, que visão de pessoa transporta, que mundo torna provável. A sua força está menos em resolver do que em impedir que a pergunta desapareça debaixo do entusiasmo.

No fim, talvez a questão não seja saber se a máquina se tornará humana. Essa pergunta alimenta demasiadas fantasias. A questão é mais discreta, e por isso mais séria: que tipo de humanidade sobreviverá ao hábito de delegar?

A cozinha escurece. O telemóvel já não ilumina a mesa. A chávena continua fria. A mensagem chegou ao outro lado da cidade, talvez a uma mulher sentada na beira da cama, talvez a alguém que a leu sem força para responder. Uma frase atravessou uma máquina para chegar a uma dor humana.

O cursor apagou-se. Mas a pergunta ficou a piscar.