“A Humanidade tem vivido à beira da aniquilação nuclear”. Como se isso não bastasse, a Inteligência Artificial incrementa a competição económica entre os Estados com armas nucleares, potencializa ciber-ataques abre campo às guerras de informação. Urge encontrar respostas, rumo a uma “paz desarmada e desarmante”, como tem vindo a propor o Papa Leão. Dezenas de laureados com o Nobel, bem como ex-chefes de governo e de Estado, académicos, cardeais e outras personalidades estiveram reunidos nos últimos dias em Castel Gandolfo e em Roma, tendo aprovado a Declaração que o 7MARGENS traduziu e aqui divulga em primeira mão.
Preâmbulo
A paz é dissuasão, desarmamento e justiça social. Foto: frase que convida à mobilização popular e ao protesto pela Paz, cartaz colado numa parede perto da estação de metro de S. Paulo Fora de Muros, Roma. © Filipe Moisés.
A humanidade encontra-se num momento decisivo da sua história.
Mais de oitenta anos após o alvorecer da era nuclear, e no limiar da era da inteligência artificial, somos confrontados com um desafio sem precedentes. Nunca antes o progresso científico ofereceu oportunidades tão extraordinárias, criando simultaneamente riscos tão profundos para o nosso futuro comum.
Quando as armas nucleares estavam a ser desenvolvidas pela primeira vez, o mundo teve a oportunidade de evitar viver numa dinâmica permanente de medo. Fracassámos e, como resultado, a humanidade tem vivido à beira da aniquilação nuclear.
Com a IA, um perigo semelhante apresenta-se. A IA integrada em sistemas nucleares deixa pouco tempo para, ou mesmo substitui, o julgamento humano numa crise. Esta tecnologia altera o contexto em que os Estados com armas nucleares competem entre si. É provável que a IA cause perda massiva de empregos e aguce a competição económica entre os Estados com armas nucleares. A IA potencializa ciberataques que podem fraturar infraestruturas civis e estratégicas críticas. A IA possibilita a guerra de informação: a paz depende de uma realidade partilhada. Sem factos não pode haver verdade; sem verdade não pode haver confiança; e sem confiança, não há diálogo, verificação ou contenção entre as nações.
As capacidades de IA mais avançadas, os recursos informáticos e as infraestruturas de dados estão a tornar-se cada vez mais concentrados num pequeno número de países e corporações, criando assimetrias de poder significativas e incentivos limitados para a cooperação. A IA é uma tecnologia que causa disrupção económica, militar e social, e está a desenvolver-se a um ritmo sem precedentes na história da humanidade.
Em meio a uma corrida armamentista nuclear em agravamento, estamos a embarcar numa corrida de IA igualmente perigosa.
O Papa Leão XIV, invocando valores partilhados entre as tradições religiosas, apelou à humanidade para uma “paz desarmada e desarmante”. Rejeitamos a crença de que a segurança duradoura pode ser construída sobre o medo, a dominação ou a ameaça permanente de destruição mútua. A segurança não pode assentar indefinidamente na realidade da destruição mútua.
Conscientes da nossa responsabilidade partilhada para com as gerações presentes e futuras, adotamos os seguintes princípios:
1. Desarmar a Próxima Corrida Armamentista
Reconhecemos que a IA é uma arena de competição estratégica, tal como as armas nucleares o foram antes dela. Apelamos aos governos, aos desenvolvedores de IA de fronteira, aos investigadores e à comunidade internacional para que ajam agora, através de mecanismos de governação como a partilha de benefícios, a promoção de aplicações de IA que sirvam o bem-estar humano e a contenção nas suas aplicações mais desestabilizadoras, para reduzir estes riscos enquanto a escolha ainda nos pertence. Devemos desarmar a próxima corrida armamentista, tanto a da IA como a nuclear, antes que elas definam também o próximo século.
2. Desenvolvimento Responsável
‘Francisco deixa duas perguntas: “quais serão as consequências, a médio e longo prazo, das novas tecnologias digitais? E que impacto terão elas sobre a vida dos indivíduos e da sociedade, sobre a estabilidade e a paz?” ‘ Gravura: Material informativo do Dicastério para o Desenvolvimento Humano Integral
Os desenvolvedores de IA devem publicar de forma transparente os princípios que orientam o comportamento dos seus modelos e ser considerados responsáveis e juridicamente responsabilizáveis pela adesão desses modelos a tais princípios. A IA deve ser desenvolvida e monitorizada para estar em sintonia com os interesses da humanidade, incluindo o direito internacional e o respeito pelos direitos humanos.
Além disso, nenhuma organização deve iniciar, e nenhum governo deve permitir, o autoaperfeiçoamento recursivo totalmente automatizado em sistemas de inteligência artificial sem os meios para monitorizar e, se necessário, parar tais sistemas.
3. Utilização Responsável
A decisão final de lançar uma arma nuclear nunca deve ser tomada por um sistema automatizado.
Apelamos à adoção de um tratado internacional que proíba a integração imprudente da inteligência artificial nos sistemas de comando, controlo e lançamento nucleares, de modo a que seja mantido um controlo humano significativo.
Devemos prevenir a utilização maliciosa da inteligência artificial em operações e ataques cibernéticos contra infraestruturas nucleares críticas. Os Estados nucleares devem realizar revisões à prova de falhas para reduzir a vulnerabilidade das suas forças nucleares ao controlo ou manipulação não autorizados por IA.
Promovemos o desenvolvimento e a utilização responsáveis da inteligência artificial para melhorar o bem-estar humano, acelerar o progresso científico e médico, proteger o ambiente, fortalecer a resiliência e promover a paz, o desenvolvimento sustentável e o bem comum.
4. Governação Responsável
Apelamos aos governos, corporações e organizações internacionais para que permitam uma desaceleração coordenada do desenvolvimento da IA de fronteira, estabelecendo mecanismos partilhados, como a verificação e avaliações internas e externas robustas.
Apoiamos o Painel Científico Internacional Independente das Nações Unidas sobre IA e a promoção de outros esforços no espírito da Magnifica Humanitas.
Apelamos à expansão da investigação e do diálogo para propor novos caminhos institucionais para a governação internacional da IA e a futura implementação de iniciativas de governação global.
5. Liderança Responsável
Reconhecemos que os desafios que enfrentamos provavelmente serão resolvidos pela próxima geração de líderes.
Os jovens devem ter os meios para se envolverem com as ameaças nucleares, de IA e outras potencialmente catastróficas, através da educação, mentoria, parceria intergeracional e participação inclusiva em todas as regiões, culturas e comunidades. Devemos avançar com iniciativas educativas que promovam a responsabilidade ética, o pensamento crítico, a literacia mediática e de IA, e uma cultura de paz.
Reconhecemos que a humanidade enfrenta inúmeras ameaças interligadas, cujas consequências não intencionais afetam frequentemente aqueles que não têm acesso ou controlo sobre tais tecnologias. Apelamos a um bem comum digital que aumente os dados para promover a compreensão e a ação em relação às armas nucleares, à IA sem governação e a outras ameaças existenciais.
6. Desarmamento Nuclear
Nos EUA, a Comissão para a Justiça e a Paz da Conferência Episcopal convocou para 9 de agosto (2020) um dia nacional especial de oração, estudo e ação pelo desarmamento nuclear. Foto: Vatican News.
Apelamos a negociações urgentes, sustentadas e de boa-fé que conduzam, num quadro acordado e com prazos definidos, à eliminação verificável e irreversível das armas nucleares. A comunidade internacional deve rejeitar a normalização das armas nucleares como instrumentos permanentes de segurança e fortalecer as normas humanitárias e jurídicas consagradas no Tratado de Não-Proliferação de Armas Nucleares e no Tratado de Proibição de Armas Nucleares.
Apelamos aos Estados com armas nucleares para que parem a renovação da corrida armamentista e a expansão dos seus arsenais, retomem as negociações bilaterais e multilaterais sobre controlo de armamento e desarmamento, e cumpram as suas obrigações e compromissos ao abrigo do direito internacional. Os Estados devem procurar contenções e reduções verificáveis; baixar os níveis de alerta; prolongar o tempo de decisão; afastar-se de posturas de lançamento sob alerta e de retaliação imediata; reduzir o papel das armas nucleares nas doutrinas de segurança; fortalecer as comunicações de crise; prevenir operações cibernéticas contra o comando, controlo e comunicações nucleares; e construir cooperação para prevenir mal-entendidos, erros de cálculo e escaladas não intencionais.
As nações nucleares devem promover políticas e doutrinas que reduzam o papel das armas nucleares, fortaleçam a estabilidade estratégica e reduzam progressivamente a probabilidade de primeiro uso e de guerra catastrófica.
Inspirados pelas palavras dos Prémios Nobel Bertrand Russell e Albert Einstein: “Apelamos, como seres humanos, a seres humanos: lembrem-se da sua humanidade e esqueçam o resto.”
A nossa sobrevivência e a sobrevivência das gerações futuras estão em jogo.
Notícias Relacionadas
