MENSAGEM DO Papa FRANCISCO
PARA A CELEBRAÇÃO DO DIA MUNDIAL
DA PAZ
1º DE JANEIRO DE 2024
INTELIGÊNCIA ARTIFICIAL E PAZ
No início do novo ano, tempo de
graça concedido pelo Senhor a cada um de nós, quero dirigir-me ao Povo de Deus,
às nações, aos Chefes de Estado e de Governo, aos Representantes das diversas
religiões e da sociedade civil, a todos os homens e mulheres do nosso tempo
para lhes expressar os meus votos de paz.
1. O progresso da ciência e da tecnologia como caminho para a paz
A Sagrada Escritura atesta que
Deus deu aos homens o seu Espírito a fim de terem «sabedoria, inteligência e
capacidade para toda a espécie de trabalho» (Ex 35, 31). A inteligência é
expressão da dignidade que nos foi dada pelo Criador, que nos fez à sua imagem
e semelhança (cf. Gn 1, 26) e nos tornou capazes, através da liberdade e do
conhecimento, de responder ao seu amor. Esta qualidade fundamentalmente
relacional da inteligência humana manifesta-se de modo particular na ciência e
na tecnologia, que são produtos extraordinários do seu potencial criativo.
Na Constituição pastoral Gaudium
et spes, o Concílio Vaticano II reafirmou esta verdade, declarando que «sempre
o homem procurou, com o seu trabalho e engenho, desenvolver mais a própria
vida». [1] Quando os seres humanos, «recorrendo à técnica», se esforçam por que
a terra «se torne habitação digna para toda a humanidade», [2] agem segundo o
desígnio divino e cooperam com a vontade que Deus tem de levar à perfeição a
criação e difundir a paz entre os povos. Assim o próprio progresso da ciência e
da técnica – na medida em que contribui para uma melhor organização da
sociedade humana, para o aumento da liberdade e da comunhão fraterna – leva ao
aperfeiçoamento do homem e à transformação do mundo.
Justamente nos alegramos e
sentimos reconhecidos pelas extraordinárias conquistas da ciência e da
tecnologia, graças às quais se pôs remédio a inúmeros males que afligiam a vida
humana e causavam grandes sofrimentos. Ao mesmo tempo, os progressos
técnico-científicos, que permitem exercer um controle – até agora inédito –
sobre a realidade, colocam nas mãos do homem um vasto leque de possibilidades, algumas
das quais podem constituir um risco para a sobrevivência humana e um perigo
para a casa comum. [3]
Deste modo os progressos notáveis
das novas tecnologias da informação, sobretudo na esfera digital, apresentam
oportunidades entusiasmantes mas também graves riscos, com sérias implicações
na prossecução da justiça e da harmonia entre os povos. Por isso torna-se
necessário interrogar-nos sobre algumas questões urgentes: quais serão as
consequências, a médio e longo prazo, das novas tecnologias digitais? E que
impacto terão elas sobre a vida dos indivíduos e da sociedade, sobre a
estabilidade e a paz?
2. O futuro da inteligência artificial, por entre promessas e riscos
Os progressos da informática e o
desenvolvimento das tecnologias digitais, nas últimas décadas, começaram já a
produzir profundas transformações na sociedade global e nas suas dinâmicas. Os
novos instrumentos digitais estão a mudar a fisionomia das comunicações, da
administração pública, da instrução, do consumo, dos intercâmbios pessoais e de
inúmeros outros aspetos da vida diária.
Além disso as tecnologias que se
servem duma multiplicidade de algoritmos podem, dos vestígios digitais deixados
na internet, extrair dados que permitem controlar os hábitos mentais e
relacionais das pessoas para fins comerciais ou políticos, muitas vezes sem o
seu conhecimento, limitando o exercício consciente da sua liberdade de escolha.
De facto, num espaço como a web caraterizado por uma sobrecarga de informações,
pode-se compor o fluxo de dados segundo critérios de seleção nem sempre
enxergados pelo utente.
Devemos recordar-nos de que a
pesquisa científica e as inovações tecnológicas não estão desencarnadas da
realidade nem são «neutrais», [4] mas estão sujeitas às influências culturais.
Sendo atividades plenamente humanas, os rumos que tomam refletem opções
condicionadas pelos valores pessoais, sociais e culturais de cada época. E o
mesmo se diga dos resultados que alcançam: enquanto fruto de abordagens
especificamente humanas do mundo envolvente, têm sempre uma dimensão ética,
intimamente ligada às decisões de quem projeta a experimentação e orienta a
produção para objetivos particulares.
Isto aplica-se também às formas
de inteligência artificial. Desta, até ao momento, não existe uma definição
unívoca no mundo da ciência e da tecnologia. A própria designação, que já
entrou na linguagem comum, abrange uma variedade de ciências, teorias e
técnicas destinadas a fazer com que as máquinas, no seu funcionamento,
reproduzam ou imitem as capacidades cognitivas dos seres humanos. Falar de
«formas de inteligência», no plural, pode ajudar sobretudo a assinalar o fosso
intransponível existente entre estes sistemas, por mais surpreendentes e
poderosos que sejam, e a pessoa humana: em última análise, aqueles são «fragmentários»
já que têm possibilidades de imitar ou reproduzir apenas algumas funções da
inteligência humana. Além disso o uso do plural destaca que tais dispositivos,
muito diferentes entre si, devem ser sempre considerados como «sistemas
sociotécnicos». Com efeito o seu impacto, independentemente da tecnologia de
base, depende não só da projetação, mas também dos objetivos e interesses de
quem os possui e de quem os desenvolve, bem como das situações em que são
utilizados.
Por conseguinte, a inteligência
artificial deve ser entendida como uma galáxia de realidades diversas e não
podemos presumir a priori que o seu desenvolvimento traga um contributo
benéfico para o futuro da humanidade e para a paz entre os povos. O resultado
positivo só será possível se nos demonstrarmos capazes de agir de maneira
responsável e respeitar valores humanos fundamentais como «a inclusão, a
transparência, a segurança, a equidade, a privacidade e a fiabilidade». [5]
E não é suficiente presumir, por
parte de quem projeta algoritmos e tecnologias digitais, um empenho por agir de
modo ético e responsável. É preciso reforçar ou, se necessário, instituir
organismos encarregados de examinar as questões éticas emergentes e tutelar os
direitos de quantos utilizam formas de inteligência artificial ou são
influenciados por ela. [6]
Assim, a imensa expansão da
tecnologia deve ser acompanhada por uma adequada formação da responsabilidade
pelo seu desenvolvimento. A liberdade e a convivência pacífica ficam ameaçadas,
quando os seres humanos cedem à tentação do egoísmo, do interesse próprio, da
ânsia de lucro e da sede de poder. Por isso temos o dever de alargar o olhar e
orientar a pesquisa técnico-científica para a prossecução da paz e do bem
comum, ao serviço do desenvolvimento integral do homem e da comunidade. [7]
A dignidade intrínseca de cada
pessoa e a fraternidade que nos une como membros da única família humana devem
estar na base do desenvolvimento de novas tecnologias e servir como critérios
indiscutíveis para as avaliar antes da sua utilização, para que o progresso
digital possa verificar-se no respeito pela justiça e contribuir para a causa
da paz. Os avanços tecnológicos que não conduzem a uma melhoria da qualidade de
vida da humanidade inteira, antes pelo contrário agravam as desigualdades e os
conflitos, nunca poderão ser considerados um verdadeiro progresso. [8]
A inteligência artificial
tornar-se-á cada vez mais importante. Os desafios que coloca não são apenas de
ordem técnica, mas também antropológica, educacional, social e política. Deixa
esperar, por exemplo, poupança de esforços, produção mais eficiente, transportes
mais fáceis e mercados mais dinâmicos, bem como uma revolução nos processos de
recolha, organização e verificação de dados. Precisamos de estar conscientes
das rápidas transformações em curso e geri-las de forma a salvaguardar os
direitos humanos fundamentais, respeitando as instituições e as leis que
promovem o progresso humano integral. A inteligência artificial deveria estar
ao serviço dum melhor potencial humano e das nossas mais altas aspirações, e
não em competição com eles.
3. A tecnologia do futuro: máquinas que aprendem sozinhas
Nas suas múltiplas formas, a
inteligência artificial, baseada em técnicas de aprendizagem automática
(machine learning), embora ainda numa fase pioneira, já está a introduzir
mudanças notáveis no tecido das sociedades, exercendo uma influência profunda
nas culturas, nos comportamentos sociais e na construção da paz.
Desenvolvimentos como a
aprendizagem automática (machine learning) ou a aprendizagem profunda (deep
learning) levantam questões que transcendem os âmbitos da tecnologia e da
engenharia e têm a ver com uma compreensão intimamente ligada ao significado da
vida humana, aos processos basilares do conhecimento e à capacidade que tem a
mente de alcançar a verdade.
A capacidade de alguns
dispositivos produzirem textos sintática e semanticamente coerentes, por
exemplo, não é garantia de fiabilidade. Diz-se que podem «alucinar», isto é,
gerar afirmações que à primeira vista parecem plausíveis, mas na realidade são
infundadas ou preconceituosas. Isto coloca um sério problema quando a
inteligência artificial é utilizada em campanhas de desinformação que espalham
notícias falsas e levam a uma desconfiança crescente relativamente aos meios de
comunicação. A confidencialidade, a posse dos dados e a propriedade intelectual
são outros âmbitos em que as tecnologias em questão comportam graves riscos,
aos quais se vêm juntar outras consequências negativas ligadas a um uso
indevido, como a discriminação, a interferência nos processos eleitorais, a
formação duma sociedade que vigia e controla as pessoas, a exclusão digital e a
exacerbação dum individualismo cada vez mais desligado da coletividade. Todos
estes fatores correm o risco de alimentar os conflitos e obstaculizar a paz.
4. O sentido do limite, no paradigma tecnocrático
O nosso mundo é demasiado vasto,
variado e complexo para ser completamente conhecido e classificado. A mente
humana nunca poderá esgotar a sua riqueza, nem sequer com a ajuda dos
algoritmos mais avançados. De facto, estes não oferecem previsões garantidas do
futuro, mas apenas aproximações estatísticas. Nem tudo pode ser previsto, nem
tudo pode ser calculado; no fim de contas, «a realidade é superior à ideia» [9]
e, por mais prodigiosa que seja a nossa capacidade de calcular, haverá sempre
um resíduo inacessível que escapa a qualquer tentativa de quantificação.
Além disso, a grande quantidade
de dados analisados pelas inteligências artificiais não é, por si só, garantia
de imparcialidade. Quando os algoritmos extrapolam informações, correm sempre o
risco de as distorcer, replicando as injustiças e os preconceitos dos ambientes
onde têm origem. Quanto mais rápidos e complexos eles se tornam, mais difícil é
compreender por que produziram um determinado resultado.
As máquinas inteligentes podem
desempenhar as tarefas que lhes são atribuídas com uma eficiência cada vez
maior, mas a finalidade e o significado das suas operações continuarão a ser
determinados ou capacitados por seres humanos com o seu próprio universo de
valores. O risco é que os critérios subjacentes a certas escolhas se tornem
menos claros, que a responsabilidade de decisão seja ocultada e que os
produtores possam subtrair-se à obrigação de agir para o bem da comunidade. Em
certo sentido, isto é favorecido pelo sistema tecnocrático, que alia a economia
à tecnologia e privilegia o critério da eficiência, tendendo a ignorar tudo o
que não esteja ligado aos seus interesses imediatos. [10]
Isto deve fazer-nos refletir
sobre um aspecto transcurado frequentemente na atual mentalidade tecnocrática e
eficientista, mas decisivo para o desenvolvimento pessoal e social: o «sentido
do limite». Com efeito o ser humano, mortal por definição, pensando em
ultrapassar todo o limite mediante a técnica, corre o risco, na obsessão de
querer controlar tudo, de perder o controle sobre si mesmo; na busca duma
liberdade absoluta, de cair na espiral duma ditadura tecnológica. Reconhecer e
aceitar o próprio limite de criatura é condição indispensável para que o homem
alcance ou, melhor, acolha a plenitude como uma dádiva; ao passo que, no
contexto ideológico dum paradigma tecnocrático animado por uma prometeica
presunção de autossuficiência, as desigualdades poderiam crescer sem medida, e
o conhecimento e a riqueza acumular-se nas mãos de poucos, com graves riscos
para as sociedades democráticas e uma coexistência pacífica. [11]
5. Temas quentes para a ética
No futuro, a fiabilidade de quem
solicita um mútuo, a idoneidade dum indivíduo para determinado emprego, a
possibilidade de reincidência dum condenado ou o direito a receber asilo
político ou assistência social poderão ser determinados por sistemas de
inteligência artificial. A falta de níveis diversificados de mediação que tais
sistemas introduzem está particularmente exposta a formas de preconceito e
discriminação: os erros do sistema podem multiplicar-se facilmente, gerando não
só injustiças em casos individuais, mas também, por efeito dominó, verdadeiras
formas de desigualdade social.
Além disso, por vezes, as formas
de inteligência artificial parecem capazes de influenciar as decisões dos
indivíduos através de opções predeterminadas associadas a estímulos e
dissuasões, ou então através de sistemas de regulação das opções pessoais
baseados na organização das informações. Estas formas de manipulação ou
controle social requerem atenção e vigilância cuidadosas, implicando uma clara
responsabilidade legal por parte dos produtores, de quem os contrata e das
autoridades governamentais.
O ato de se confiar a processos
automáticos que dispõem os indivíduos por categorias, por exemplo, através dum
uso invasivo da vigilância ou da adoção de sistemas de crédito social, poderia
ter repercussões profundas também no tecido civil, estabelecendo classificações
inadequadas entre os cidadãos. E estes processos artificiais de classificação
poderiam levar também a conflitos de poder, envolvendo não apenas destinatários
virtuais, mas também pessoas de carne e osso. O respeito fundamental pela
dignidade humana requer a rejeição de que a unicidade da pessoa seja
identificada com um conjunto de dados. Não se deve permitir que os algoritmos
determinem o modo como entendemos os direitos humanos, ponham de lado os
valores essenciais da compaixão, da misericórdia e do perdão, ou eliminem a
possibilidade de um indivíduo mudar e deixar para trás o passado.
Neste contexto, não podemos
deixar de considerar o impacto das novas tecnologias no âmbito laboral:
trabalhos, que outrora eram prerrogativa exclusiva da mão-de-obra humana,
acabam rapidamente absorvidos pelas aplicações industriais da inteligência
artificial. Também neste caso, há substancialmente o risco duma vantagem
desproporcionada para poucos à custa do empobrecimento de muitos. A Comunidade Internacional, ao ver como tais
formas de tecnologia penetram cada vez mais profundamente nos locais de trabalho,
deveria considerar como alta prioridade o respeito pela dignidade dos
trabalhadores e a importância do emprego para o bem-estar económico das
pessoas, das famílias e das sociedades, a estabilidade dos empregos e a
equidade dos salários.
6. Transformaremos as espadas em relhas de arado?
Nestes dias, contemplando o mundo
que nos rodeia, não se pode ignorar as graves questões éticas relacionadas com
o setor dos armamentos. A possibilidade de efetuar operações militares através
de sistemas de controle remoto levou a uma percepção menor da devastação por
eles causada e da responsabilidade da sua utilização, contribuindo para uma
abordagem ainda mais fria e destacada da imensa tragédia da guerra. A pesquisa
sobre as tecnologias emergentes no setor dos chamados «sistemas de armas letais
autónomas», incluindo a utilização bélica da inteligência artificial, é um
grave motivo de preocupação ética. Os sistemas de armas autónomos nunca poderão
ser sujeitos moralmente responsáveis: a exclusiva capacidade humana de julgamento
moral e de decisão ética é mais do que um conjunto complexo de algoritmos, e
tal capacidade não pode ser reduzida à programação duma máquina que, por mais
«inteligente» que seja, permanece sempre uma máquina. Por esta razão, é
imperioso garantir uma supervisão humana adequada, significativa e coerente dos
sistemas de armas.
Também não podemos ignorar a
possibilidade de armas sofisticadas caírem em mãos erradas, facilitando, por
exemplo, ataques terroristas ou intervenções visando desestabilizar instituições
legítimas de Governo. Em resumo, o mundo não precisa realmente que as novas
tecnologias contribuam para o iníquo desenvolvimento do mercado e do comércio
das armas, promovendo a loucura da guerra. Ao fazê-lo, não só a inteligência,
mas também o próprio coração do homem, correrá o risco de se tornar cada vez
mais «artificial». As aplicações técnicas mais avançadas não devem ser
utilizadas para facilitar a resolução violenta dos conflitos, mas para
pavimentar os caminhos da paz.
Numa ótica mais positiva, se a
inteligência artificial fosse utilizada para promover o desenvolvimento humano
integral, poderia introduzir inovações importantes na agricultura, na instrução
e na cultura, uma melhoria do nível de vida de inteiras nações e povos, o
crescimento da fraternidade humana e da amizade social. Em última análise, a
forma como a utilizamos para incluir os últimos, isto é, os irmãos e irmãs mais
frágeis e necessitados, é a medida reveladora da nossa humanidade.
Um olhar humano e o desejo dum
futuro melhor para o nosso mundo levam à necessidade dum diálogo
interdisciplinar voltado para um desenvolvimento ético dos algoritmos – a
algor-etica -, em que sejam os valores a orientar os percursos das novas
tecnologias. [12] As questões éticas deveriam ser tidas em consideração desde o
início da pesquisa, bem como nas fases de experimentação, projetação, produção,
distribuição e comercialização. Esta é a abordagem da ética da projetação, na
qual as instituições educativas e os responsáveis pelo processo de decisão têm
um papel essencial a desempenhar.
7. Desafios para a educação
O desenvolvimento duma tecnologia
que respeite e sirva a dignidade humana tem implicações claras para as
instituições educativas e para o mundo da cultura. Ao multiplicar as
possibilidades de comunicação, as tecnologias digitais permitiram encontrar-se
de novas formas. Todavia continua a ser necessária uma reflexão contínua sobre
o tipo de relações para onde nos estão encaminhando. Os jovens estão a crescer
em ambientes culturais impregnados de tecnologia, o que não pode deixar de pôr
em causa os métodos de ensino e formação.
A educação para o uso de formas
de inteligência artificial deveria visar sobretudo a promoção do pensamento
crítico. É necessário que os utentes das várias idades, mas principalmente os
jovens, desenvolvam uma capacidade de discernimento no uso de dados e conteúdos
recolhidos na web ou produzidos por sistemas de inteligência artificial. As
escolas, as universidades e as sociedades científicas são chamadas a ajudar os
estudantes e profissionais a assumir os aspetos sociais e éticos do progresso e
da utilização da tecnologia.
A formação no uso dos novos
instrumentos de comunicação deveria ter em conta não só a desinformação, as
notícias falsas, mas também a recrudescência preocupante de «medos ancestrais
(...) que souberam esconder-se e revigorar-se por detrás das novas
tecnologias». [13] Infelizmente, encontramo-nos mais uma vez a combater «a
tentação de fazer uma cultura dos muros, de erguer os muros (…), para impedir
este encontro com outras culturas, com outras pessoas» [14] e o desenvolvimento
duma coexistência pacífica e fraterna.
8. Desafios para o desenvolvimento do direito internacional
O alcance global da inteligência
artificial deixa claro que, juntamente com a responsabilidade dos Estados
soberanos de regular a sua utilização internamente, as Organizações
Internacionais podem desempenhar um papel decisivo na obtenção de acordos
multilaterais e na coordenação da sua aplicação e implementação. [15] A este respeito,
exorto a Comunidade das Nações a trabalhar unida para adotar um tratado
internacional vinculativo, que regule o desenvolvimento e o uso da inteligência
artificial nas suas variadas formas. Naturalmente o objetivo da regulamentação
não deveria ser apenas a prevenção de más aplicações, mas também o incentivo às
boas aplicações, estimulando abordagens novas e criativas e facilitando iniciativas
pessoais e coletivas. [16]
Em última análise, na busca de
modelos normativos que possam fornecer uma orientação ética aos criadores de
tecnologias digitais, é indispensável identificar os valores humanos que
deveriam estar na base dos esforços das sociedades para formular, adotar e
aplicar os quadros legislativos necessários. O trabalho de elaboração de
diretrizes éticas para a produção de formas de inteligência artificial não pode
prescindir da consideração de questões mais profundas relativas ao significado
da existência humana, à proteção dos direitos humanos fundamentais, à busca da
justiça e da paz. Este processo de discernimento ético e jurídico pode
revelar-se preciosa ocasião para uma reflexão compartilhada sobre o papel que a
tecnologia deveria ter na nossa vida individual e comunitária e sobre a forma
como a sua utilização possa contribuir para a criação dum mundo mais equitativo
e humano. Por este motivo, nos debates sobre a regulamentação da inteligência
artificial, dever-se-ia ter em conta as vozes de todas as partes interessadas,
incluindo os pobres, os marginalizados e outros que muitas vezes permanecem
ignorados nos processos de decisão globais.
* * *
Espero que esta reflexão encoraje
a fazer com que os progressos no desenvolvimento de formas de inteligência
artificial sirvam, em última análise, a causa da fraternidade humana e da paz.
Não é responsabilidade de poucos, mas da família humana inteira. De facto, a
paz é fruto de relações que reconhecem e acolhem o outro na sua dignidade
inalienável, e de cooperação e compromisso na busca do desenvolvimento integral
de todas as pessoas e de todos os povos.
No início do novo ano, a minha
oração é que o rápido desenvolvimento de formas de inteligência artificial não
aumente as já demasiadas desigualdades e injustiças presentes no mundo, mas
contribua para pôr fim às guerras e conflitos e para aliviar muitas formas de
sofrimento que afligem a família humana. Possam os fiéis cristãos, os crentes
das várias religiões e os homens e mulheres de boa vontade colaborar
harmoniosamente para aproveitar as oportunidades e enfrentar os desafios
colocados pela revolução digital, e entregar às gerações futuras um mundo mais
solidário, justo e pacífico.
Vaticano, 8 de dezembro de 2023.
Francisco
[1]N. 33.
[2] Ibid., 57.
[3]Cf. Francisco, Carta enc.
Laudato si’ (24/V/2015), 104.
[4]Cf. ibid., 114.
[5]Francisco, Discurso aos participantes no Encontro dos
«Minerva Dialogues» (27/III/2023).
[6]Cf. ibid.
[7]Cf. Francisco, Mensagem ao
Presidente Executivo do «World Economic Forum» em Davos-Klosters (12/I/2018).
[8]Cf. Carta enc. Laudato si’,
194; Francisco, Discurso aos
participantes no Seminário «O bem comum na era digital» (27/IX/2019).
[9]Francisco,Exort. ap. Evangelii
gaudium (24/XI/2013), 233.
[10]Cf. Carta enc. Laudato si’,
54.
[11]Cf. Francisco, Discurso aos
participantes na Plenária da Pontifícia Academia em prol da Vida (28/II/2020).
[12]Cf. ibid.
[13]Francisco, Carta enc. Fratelli
tutti (03/X/2020), 27.
[14]Cf. ibid.
[15]Cf. ibid., 170-175.
[16]Cf. Carta enc. Laudato si’,
177.
