Como cooperar no plano internacional para tirar partido das potencialidades e para fazer face aos riscos e ameaças da conjugação da inteligência artificial com o poder destruidor do armamento nuclear? Estando em jogo a sobrevivência das gerações presentes e futuras, realizou-se nos últimos dias em Itália, uma Cimeira de 30 laureados com o Prémio Nobel, que se juntaram a cientistas internacionais, responsáveis políticos, responsáveis de empresas de IA e líderes religiosos, no final da qual saiu uma Declaração que quer inspirar ações futuras, que responsabilizem todos os implicados.
A iniciativa decorreu sob a égide e inspiração da encíclica Magnifica Humanitas do Papa Leão XIV. Ainda que apoiada por um significativo número de organizações de diferentes partes do mundo, foi acolhida pelo Vaticano e decorreu, nos dias 14 e 15 de julho, em Castel Gandolfo. Aí decorreram várias mesas redondas e alguns momentos de trabalho de grupo em estilo sinodal, cruzando perspetivas diferentes em torno de problemáticas como “quando a IA escapa ao controle humano”; “a fragilidade da família humana na era nuclear”; tecnologia a serviço da humanidade; os desafios morais da IA e da guerra; fé e o futuro da humanidade na era da inteligência artificial e das armas nucleares; o bem comum na era digital; vozes jovens sobre IA e ameaças nucleares, entre outros.
Esta quinta feira, 16, os cerca de 200 participantes deslocaram-se para Roma, para a Câmara Municipal da cidade, no Monte Capitolino, onde foi apresentada a Declaração Final.
Sharon Stone: “A dignidade humana não é um algoritmo”
Sharon Stone (“embaixadora da Magnifica Humanitas”), Festival Internacional de Cinema de Berlim (2024). Foto © Attila Nemeth | Wikimedia Commons
Intervindo na sessão que deu a conhecer a Declaração, o cardeal vigário da diocese de Roma, Baldo Reina, afirmou que o documento “lembra com grande clareza que nenhuma máquina, nenhum algoritmo e nenhum sistema autónomo pode ser colocado no centro das decisões das quais depende a sobrevivência da humanidade.”
Exemplificando, o prelado observou que “as decisões relativas à vida e à morte, à paz e à guerra, e ao futuro dos povos e das gerações vindouras devem permanecer sob o controle humano pleno, responsável e significativo”.
Por seu lado, o Nobel de Física e professor titular da cátedra de Física Teórica da Universidade da Califórnia, David Gross, disse que a sua avaliação do perigo das armas nucleares é muito maior do que era há 30 anos. “Estamos no meio de uma corrida armamentista acelerada”, acrescentou ele, salientando que os povos do mundo já não podem ignorar como essa ameaça pode afetar não apenas as suas próprias vidas, mas certamente as dos seus filhos e netos.
Quem interveio foi também a atriz Sharon Stone, que surgiu nesta cimeira, surpreendentemente, na função de “embaixadora da Magnifica Humanitas”, Citada pelo Vatican News, Stone considerou que, à medida que as capacidades das máquinas se expandem, também se devem expandir os esforços morais daqueles que as constroem”. “A dignidade humana”, disse ela, “não é um algoritmo”.
Caminhos para a ação
A Declaração inclui um conjunto de linhas de ação e recomendações, de que se podem destacar as seguintes:
- Os desenvolvedores de IA devem publicar de forma transparente os princípios que orientam o comportamento dos seus modelos e ser considerados responsáveis e juridicamente responsabilizáveis pela adesão desses modelos a tais princípios;
- Deve ser adotado um tratado internacional que proíba a integração imprudente da inteligência artificial nos sistemas de comando, controlo e lançamento nucleares, de modo a que seja mantido um controlo humano significativo;
- Apoiar o Painel Científico Internacional Independente das Nações Unidas sobre IA e a promoção de outros esforços no espírito da Magnifica Humanitas, apelando à expansão da investigação e do diálogo para propor novos caminhos institucionais para a governação internacional da IA e a futura implementação de iniciativas de governação global;
- Os jovens devem ter os meios para se envolverem com as ameaças nucleares, de IA e outras potencialmente catastróficas, através de iniciativas educativas que promovam a responsabilidade ética, o pensamento crítico, a literacia mediática e de IA, e uma cultura de paz;
- Desencadear negociações urgentes, sustentadas e de boa-fé que conduzam, num quadro acordado e com prazos definidos, à eliminação verificável e irreversível das armas nucleares.
Notícias Relacionadas
