Inteligência artificial sem diretrizes éticas é uma ameaça à paz, alerta o Papa

 

Faltam “modelos normativos que possam fornecer uma orientação ética aos criadores de tecnologias digitais”, sendo urgente que a comunidade das nações assuma a necessidade de regular a Inteligência Artificial (IA). Poderiam ser esta duas das linhas fortes da importante mensagem para o Dia Mundial da Paz que o Papa acaba de publicar.

Francisco começa por destacar o seu entendimento da inteligência humana: ela é “fundamentalmente relacional” e “manifesta-se de modo particular na ciência e na tecnologia, que são produtos extraordinários do seu potencial criativo”.

Por outro lado, Francisco exprime reconhecimento pela capacidade dos humanos de encontrar remédio para inúmeros problemas e necessidades através das conquistas da ciência e da técnica, assumindo, no mesmo processo, responsabilidades quanto aos riscos que estas também criam no terreno da justiça e da harmonia entre os povos e mesmo dos riscos para a sobrevivência humana e para a casa comum.

Com este pano de fundo, o Papa coloca “algumas questões urgentes” relacionadas com o desenvolvimento do digital e as “profundas transformações na sociedade global e nas suas dinâmicas” que tem vindo a produzir, especialmente na “fisionomia das comunicações, da administração pública, da instrução, do consumo, dos intercâmbios pessoais e de inúmeros outros aspetos da vida diária. E deixa duas perguntas: “quais serão as consequências, a médio e longo prazo, das novas tecnologias digitais? E que impacto terão elas sobre a vida dos indivíduos e da sociedade, sobre a estabilidade e a paz?”

Em jeito de resposta, a mensagem papal demarca-se da ideia comum de que a investigação científica e as inovações tecnológicas são neutras, observando que, enquanto atividades humanas, elas “refletem opções condicionadas pelos valores pessoais, sociais e culturais de cada época” e, pelos resultados a que chegam “têm sempre uma dimensão ética”, ligada às opções e mundividências de quem toma decisões.

Um exemplo é o dos algoritmos que, de forma multiforme e frequentemente subliminar, extraem e processam dados a partir de “vestígios digitais deixados na internet” pelos utilizadores, que, sublinha a mensagem do Papa, “permitem controlar os hábitos mentais e relacionais das pessoas para fins comerciais ou políticos, muitas vezes sem o seu conhecimento, limitando o exercício consciente da sua liberdade de escolha”.

Algo de análogo se passa também com a inteligência artificial, fenómeno multidimensional em grande desenvolvimento e difusão, que visa “fazer com que as máquinas, no seu funcionamento, reproduzam ou imitem as capacidades cognitivas dos seres humanos”.

Aqui, porém, acentua o Papa, além de estarmos perante um fenómeno com manifestações “muito diferentes entre si”, criam a ideia de que são capazes de imitar ou reproduzir a inteligência humana, quando, de facto, e pelo menos por ora, o fazem de forma fragmentária e centrada em algumas facetas do que é a inteligência humana.

“Por conseguinte, prossegue a mensagem, a inteligência artificial deve ser entendida como uma galáxia de realidades diversas e não podemos presumir a priori que o seu desenvolvimento traga um contributo benéfico para o futuro da humanidade e para a paz entre os povos. O resultado positivo só será possível se nos demonstrarmos capazes de agir de maneira responsável e respeitar valores humanos fundamentais como «a inclusão, a transparência, a segurança, a equidade, a privacidade e a fiabilidade»”.

A inteligência artificial será cada vez mais importante, escreve Francisco, em sintonia, de resto com muitos outros observadores. Mas – aqui com menos pessoas a alertar – é “a dignidade intrínseca de cada pessoa e a fraternidade que nos une como membros da única família humana [que] devem estar na base do desenvolvimento de novas tecnologias e servir como critérios indiscutíveis para as avaliar antes da sua utilização, para que o progresso digital possa verificar-se no respeito pela justiça e contribuir para a causa da paz”.

Por essa razão, a expansão das tecnologias “deve ser acompanhada por uma adequada formação da responsabilidade pelo seu desenvolvimento”, bem como pela instituição de “organismos encarregados de examinar as questões éticas emergentes e tutelar os direitos de quantos utilizam formas de inteligência artificial ou são influenciados por ela”. É que, nota ainda o documento, “a liberdade e a convivência pacífica ficam ameaçadas, quando os seres humanos cedem à tentação do egoísmo, do interesse próprio, da ânsia de lucro e da sede de poder”

Num ponto específico dedicado ao “sentido do limite, no paradigma tecnocrático”, o Papa lembra que, num mundo vasto e complexo, “nem tudo pode ser previsto” ou “calculado”; que ao extrapolarem informações e dados, os algoritmos “correm sempre o risco de as distorcer, replicando as injustiças e os preconceitos”; e, enfim, que, apesar de alta performatividade e eficiência das máquinas inteligentes, “a finalidade e o significado das suas operações continuarão a ser determinados ou capacitados por seres humanos com o seu próprio universo de valores”.

“O risco é que os critérios subjacentes a certas escolhas se tornem menos claros, que a responsabilidade de decisão seja ocultada e que os produtores possam subtrair-se à obrigação de agir para o bem da comunidade. Em certo sentido, isto é favorecido pelo sistema tecnocrático, que alia a economia à tecnologia e privilegia o critério da eficiência, tendendo a ignorar tudo o que não esteja ligado aos seus interesses imediatos”, explica a mensagem do Papa. Há que ter, por isso, uma noção do limite, que é “decisivo para o desenvolvimento pessoal e social”: “o ser humano, mortal por definição, pensando em ultrapassar todo o limite mediante a técnica, corre o risco, na obsessão de querer controlar tudo, de perder o controle sobre si mesmo; na busca duma liberdade absoluta, de cair na espiral duma ditadura tecnológica”.

Na mensagem, Francisco alude aos riscos de preconceito e discriminação e mesmo de desigualdade social que podem ser determinados por sistemas de inteligência artificial; refere-se também às formas de manipulação ou controle social que podem influenciar decisões no plano pessoal; e ainda ao estabelecimento de classificações inadequadas entre os cidadãos, decorrentes de processos automáticos que dispõem os indivíduos por categorias.

“Não se deve permitir que os algoritmos determinem o modo como entendemos os direitos humanos, ponham de lado os valores essenciais da compaixão, da misericórdia e do perdão, ou eliminem a possibilidade de um indivíduo mudar e deixar para trás o passado”, remata o Pontífice.

Onde se explicita mais a relação entre a inteligência artificial e as questões da guerra e da paz é no ponto em que a mensagem alude à “possibilidade de efetuar operações militares através de sistemas de controle remoto”, associados a tecnologias emergentes no setor dos chamados «sistemas de armas letais autónomas». Estamos aqui diante de “um grave motivo de preocupação ética”, afirma a mensagem.

“Os sistemas de armas autónomos nunca poderão ser sujeitos moralmente responsáveis: a exclusiva capacidade humana de julgamento moral e de decisão ética é mais do que um conjunto complexo de algoritmos, e tal capacidade não pode ser reduzida à programação duma máquina que, por mais ‘inteligente’ que seja, permanece sempre uma máquina”, denuncia Francisco.

Os dois pontos que encerram o documento estão virados para o papel da educação e das relações internacionais no acompanhamento crítico e responsável dos desenvolvimentos da inteligência artificial.

A educação para o uso de formas de inteligência artificial deveria visar sobretudo a “promoção do pensamento crítico”, de forma a que “os utentes das várias idades, mas principalmente os jovens, desenvolvam uma capacidade de discernimento no uso de dados e conteúdos recolhidos na web ou produzidos por sistemas de inteligência artificial”, diz o Papa.

Por outro lado, além da responsabilidade dos estados, a mensagem considera que o alcance global da inteligência artificial requer que as organizações internacionais “podem desempenhar um papel decisivo na obtenção de acordos multilaterais e na coordenação da sua aplicação e implementação”. Nesse sentido, o Pontífice exorta a Comunidade das Nações a “trabalhar unida para adotar um tratado internacional vinculativo, que regule o desenvolvimento e o uso da inteligência artificial nas suas variadas formas”, a exemplo do que recentemente fez já o Parlamento Europeu.

“Em última análise, remata o Papa, na busca de modelos normativos que possam fornecer uma orientação ética aos criadores de tecnologias digitais, é indispensável identificar os valores humanos que deveriam estar na base dos esforços das sociedades para formular, adotar e aplicar os quadros legislativos necessários. O trabalho de elaboração de diretrizes éticas para a produção de formas de inteligência artificial não pode prescindir da consideração de questões mais profundas relativas ao significado da existência humana, à proteção dos direitos humanos fundamentais, à busca da justiça e da paz”.