Papa Leão XIV lembra ao mundo que as IAs não são seres conscientes e pede proibição de armas autônomas
O Papa Leão XIV, recentemente livre do cancro, está a apelar às nações do mundo para “desarmarem” a IA, incluindo um apelo específico aos membros das Nações Unidas para “tomar medidas concretas para a proibição de armas autónomas letais” durante uma reunião em Genebra agendada para Novembro. Ele também apelou às nações para que formassem instituições globais para gerir o desenvolvimento da IA e rejeitou as reivindicações de personalidade da IA.
Num discurso papal na sexta-feira, Leo disse: “Em primeiro lugar, o futuro da inteligência artificial não está pré-determinado. Sendo uma tecnologia desenvolvida por seres humanos, o seu futuro depende das escolhas que fazemos. Temos, portanto, a responsabilidade de orientar, mudar e, quando necessário, rejeitar as suas aplicações”.
“A questão decisiva, então, não é simplesmente ‘O que a IA pode fazer?’ mas sim, ‘A que propósito deveria servir?’” perguntou o papa.
“Em segundo lugar, as máquinas são ferramentas, não pessoas”, continuou o papa, antes de citar a sua encíclica de maio de 2026 – a sua primeira grande declaração ideológica para a Igreja Católica e a sua posição oficial sobre a IA.
“As chamadas inteligências artificiais não passam por experiências, não possuem corpo, não sentem alegria ou dor, não amadurecem através dos relacionamentos e não sabem por dentro o que significa amor, trabalho, amizade ou responsabilidade”, citou.
Leo disse que aqueles que tratam a IA como ela tem experiências conscientes correm o risco de “obscurecer a responsabilidade humana e deixar aqueles que sofrem danos confrontados com uma entidade sem rosto”. Isso parece uma resposta direta àquela fatia do Vale do Silício que continua insistindo que os atuais LLMs evoluíram além dos programas para uma nova forma de consciência e, em alguns casos, exibiram um comportamento semelhante ao de um culto. Também está claro que Leo vê uma conexão direta entre a forma como as empresas de IA operam e os usuários que acabam com crenças delirantes sobre com quem estão falando.
Leo prosseguiu dizendo que certas decisões “nunca devem ser delegadas”, como aquelas que afetam “a vida humana, a liberdade e o uso da força”. Leo citou especificamente listas de alvos construídas por IA (provavelmente referindo-se a sistemas que selecionam alvos para ataques aéreos ou drones), bancos de dados de controle de fronteiras e armas autônomas.
O papa também recomendou que “as tecnologias inteligentes devem ser direcionadas para o bem comum”, o que é bom, mas um pouco ambicioso. Mais concretamente, disse que a maior necessidade actual é a colaboração internacional:
“O que precisamos atualmente é de instituições capazes de colocar em prática estes princípios, particularmente de instituições internacionais eficazes que possam salvaguardar o bem comum global”, concluiu o papa. “Isto exige normas partilhadas, supervisão independente e mecanismos claros de responsabilização, para que as decisões relativas ao desenvolvimento e utilização da IA possam ser examinadas, contestadas quando necessário, e acompanhadas de soluções adequadas para quaisquer danos causados.”
Leão sugeriu que herdou o nome papal do Papa Leão XIII, que presidiu outro período de grandes mudanças tecnológicas. O Papa Francisco, seu antecessor, também apelou à proibição de armas autónomas.
