Riscos, limites e o que não podemos perder.
A inteligência artificial constitui uma das transformações mais profundas da época contemporânea e, por isso, não pode ser analisada apenas como um avanço tecnológico. O seu impacto ultrapassa a esfera funcional das máquinas e atinge diretamente a forma como compreendemos a pessoa, a liberdade, a verdade, o trabalho, a justiça e a convivência social. Quando a inovação tecnológica interfere nos modos de decidir, comunicar, produzir, governar e imaginar o futuro, deixa de ser apenas uma questão instrumental e torna-se uma questão moral. Trata-se por isso duma reflexão sobre o ser humano, sobre o valor da pessoa, sobre os limites do poder e sobre o tipo de sociedade que queremos construir.
O progresso técnico ainda que valioso e necessário não deve nunca converter-se em critério absoluto para julgar o bem, a verdade, a justiça ou a dignidade humana. A técnica deve servir o ser humano; nunca o contrário.
De acordo com a Encíclica “Magnifica Humanitas” recém-publicada pelo Papa Leão XIV, a inteligência artificial pode otimizar processos, facilitar o acesso ao conhecimento e aliviar tarefas pesadas ou repetitivas. No entanto, mesmo quando é útil, continua a ser um instrumento. Não possui consciência, interioridade, sentido moral, experiência do sofrimento, capacidade de amar, responsabilidade ética nem abertura à transcendência. Confundir a potência funcional da máquina com a profundidade da inteligência humana seria reduzir o humano à mera computação e empobrecer gravemente a compreensão da pessoa.
Os principais riscos da inteligência artificial
· Desumanização – quando as pessoas passam a ser tratadas como perfis de dados, padrões de comportamento, probabilidades estatísticas ou recursos otimizáveis, perde-se o reconhecimento da singularidade irrepetível de cada ser humano. A pessoa deixa de ser vista como sujeito e passa a ser tratada como objeto de cálculo, monitorização ou previsão.
· Substituição do juízo humano – quando sistemas automáticos passam a decidir sobre dimensões sensíveis da vida humana. Sabemos que sistemas automáticos podem influenciar decisões relacionadas com emprego, crédito, saúde, segurança, educação ou acesso a direitos. Quando tais decisões são tomadas com base em modelos opacos, enviesados ou insuficientemente supervisionados, a injustiça pode tornar-se mais silenciosa, mais rápida e mais difícil de contestar. A aparente neutralidade técnica pode esconder preconceitos, exclusões e assimetrias de poder.
· Manipulação da verdade e da opinião pública – A produção massiva de conteúdos artificiais, a difusão de desinformação, a personalização extrema das mensagens e a criação de ambientes comunicativos orientados por interesses económicos ou ideológicos podem fragilizar a confiança social e corroer os fundamentos da democracia. Quando a verdade deixa de ser um bem comum e passa a ser moldada por estratégias de influência, a convivência humana torna-se mais vulnerável à polarização, ao medo e à manipulação.
· Risco da vigilância permanente e do controlo social – O uso intensivo de dados, sensores, plataformas e mecanismos preditivos pode criar formas subtis de dependência e condicionamento. A liberdade humana enfraquece quando cada gesto é rastreado, cada preferência é explorada comercialmente e cada escolha pode ser antecipada ou induzida. Podemos estar perante novas formas de mercantilização e até de escravidão, em que a pessoa se torna prisioneira de sistemas que moldam comportamentos sem verdadeiro consentimento consciente.
· Automatização indiscriminada – Pode provocar desemprego, desvalorização de profissões, precarização e exclusão, sobretudo dos mais vulneráveis. O trabalho não é apenas uma função económica: é também participação social, criatividade, responsabilidade, sustento e expressão de dignidade. Uma economia que sacrifica pessoas em nome da eficiência técnica perde o seu fundamento humano e moral.
· Uso da inteligência artificial em contextos militares, de vigilância coerciva e de dominação geopolítica – A normalização da guerra e a tentação de desenvolver instrumentos de força cada vez mais autónomos e menos controláveis. Quando a tecnologia se afasta da lógica do bem comum e entra na lógica da supremacia, a humanidade aproxima-se de formas extremas de desumanização.
O que não podemos perder
Perante a expansão da inteligência artificial, há realidades que não podemos perder sem comprometer a nossa humanidade.
A primeira é a centralidade da pessoa. Nenhum sistema deve valer mais do que a vida concreta de um ser humano. Nenhuma lógica de eficiência, cálculo ou automação pode justificar a redução da pessoa a número, objeto ou variável de gestão.
A consciência moral. O discernimento ético, a responsabilidade pelo outro, a capacidade de reconhecer o bem e o mal, a compaixão, o perdão e a justiça. Exigem interioridade, liberdade e sentido. Uma sociedade que delega excessivamente nas máquinas aquilo que pertence à consciência corre o risco de se tornar tecnicamente sofisticada, mas moralmente empobrecida.
A verdade. A vida social depende de um horizonte comum de realidade, confiança e honestidade. Se a comunicação se transforma num campo saturado por manipulação algorítmica, ruído, simulação e interesses ocultos, torna-se mais difícil educar, dialogar, decidir em conjunto e sustentar a democracia. Proteger a verdade é proteger a possibilidade de uma convivência livre e justa.
A liberdade. A dependência digital, a colonização da atenção, a mercantilização dos comportamentos e o controlo invisível das escolhas ameaçam uma das dimensões mais nobres da pessoa. Ser livre não é apenas poder escolher entre opções previamente organizadas por sistemas externos; é poder orientar a própria vida com consciência, responsabilidade e abertura ao bem.
O valor do trabalho humano, da educação, da relação entre gerações, do cuidado, da amizade social e da esperança. O progresso técnico só tem legitimidade quando fortalece a vida humana em toda a sua amplitude. Se fragiliza vínculos, descarta pessoas, substitui a responsabilidade e corrói o sentido do humano, então precisa de ser corrigido, regulado e reorientado.
A encíclica relembra ainda que a grandeza do ser humano não reside em abolir os seus limites, mas em habitar esses limites com consciência, relação, amor, responsabilidade e abertura à graça. A perfeição técnica não substitui a profundidade humana.
E contrapõe à cultura do poder, a civilização do amor. Esta expressão resume uma visão social e espiritual em que a técnica deve estar ao serviço da fraternidade, da paz, da justiça e do bem comum. Em vez de uma lógica de domínio, exclusão e competição sem limites, o Papa Leão XIV propõe uma lógica de comunhão, responsabilidade e esperança. Numa época marcada por mudanças rápidas, esta proposta recorda que o futuro não se constrói apenas com capacidade técnica, mas com sabedoria moral.
Conclusão
A era da inteligência artificial coloca diante da humanidade uma escolha decisiva. Podemos permitir que a técnica se torne o critério supremo, reconfigurando a vida humana segundo a lógica da eficiência, do controlo e do poder; ou podemos reafirmar que toda a inovação deve permanecer subordinada à dignidade inviolável da pessoa humana. Esta é a grande questão do nosso tempo.
À luz da “Magnifica Humanitas”, torna-se claro que o verdadeiro progresso não consiste em criar máquinas cada vez mais poderosas, mas em construir uma sociedade mais justa, mais livre, mais solidária e mais humana. O desafio não é apenas tecnológico; é ético, cultural e espiritual.
Permanecer humanos será, talvez, a tarefa mais importante do século XX.
