O problema dos Direitos Humanos (1)

Inteligência Artificial: O objeto e os riscos

| 15 Mar 2024

A Inteligência Artificial (IA) é uma das questões fundamentais do nosso tempo e porventura aquela que mais implicações, positivas ou negativas, terá no nosso futuro. Na última semana, o Parlamento Europeu aprovou o primeiro regulamento sobre a matéria. Como tudo o que é desconhecido no sentido de escapar ao nosso controlo e racionalidade, a IA é tema controverso e assusta-nos. Este é o segundo de três textos (aqui pode ler-se o primeiro) sobre as implicações da Inteligência Artificial nos Direitos Humanos da autoria de Manuel David Masseno, professor adjunto e investigador sénior do Laboratório UbiNET – Segurança Informática e Cibercrime do Instituto Politécnico de Beja. Estes textos constituem uma pré-publicação autorizada do verbete “Inteligência Artificial” destinado ao Dicionário Global dos Direitos Humanos, uma componente nuclear do projeto “Dignipédia Global – Sistematizar, Aprofundar e Defender Direitos Humanos em Contexto de Globalização“. Os restantes textos serão publicados nos dois próximos dias. 

Transumanismo, Miguel Panão, Inteligência artificial

Imagem gerada no DALL-E (programa de inteligência artificial que cria imagens a partir de descrições textuais) com prompt de Miguel Panão.

 

Nos últimos anos, a Inteligência Artificial (IA) tem vindo a ocupar uma importância crescente nas preocupações de todos enquanto ameaça não apenas para os Direitos Humanos, como até para a própria sobrevivência da Humanidade, a par da aceleração das alterações climáticas e da proliferação nuclear descontrolada. Neste exato sentido, são de salientar as reiteradas intervenções do Secretário-Geral das Nações Unidas e do Papa Francisco.

Esta situação resulta dos desenvolvimentos desregulados da própria tecnologia, com a transição de sistemas informáticos determinados por programadores, desde a IA simbólica e a aprendizagem automática, sempre com finalidades específicas e consequências suscetíveis de predeterminação, para a aprendizagem profunda, com aptidões múltiplas. Atualmente, a aproximação à IA geral, em especial por meio dos grandes modelos de linguagem, o modo como os sistemas processam os dados e a determinação das finalidades, tendem a escapar ao controle humano, exigindo precauções adicionais quanto à inserção de salvaguardas eficazes.

Aliás, esta transição é patente nas Definições de IA adotadas pela Organização para a Cooperação e o Desenvolvimento Económico (OCDE), as quais constituem “a referência” neste domínio. Assim, se na de maio de 2019 “Um sistema de IA é um sistema baseado em máquina que pode, para um determinado conjunto de objetivos definidos pelo homem, fazer previsões, recomendações ou decisões que influenciam ambientes reais ou virtuais”, na de novembro de 2023 já temos que “Um sistema de IA é um sistema baseado em máquina que, para objetivos explícitos ou implícitos, infere, a partir das informações que recebe, como gerar resultados como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuais. Diferentes sistemas de IA variam nos seus níveis de autonomia e adaptabilidade após a implantação.”.

Em extrema síntese, na atual Definição, os objetivos passaram a poder estar apenas “implícitos”, os resultados resultarão também de “inferências” a partir dos dados acedidos e os “conteúdos” passaram a ter lugar entre os resultados, em consequência do auge da AI generativa. Adicionalmente, foi colocada uma ênfase especial na adaptabilidade aos ambientes físicos, muito para lá do Ciberespaço, assim como na maior autonomia potencial perante os criadores, os quais podem ser outros sistemas de IA e não apenas seres humanos.

Concretamente, se nos colocarmos na perspetiva da Carta das Nações Unidas, temos que a IA é suscetível de ameaçar os Valores ínsitos no Preâmbulo, por permitir interferências “nos direitos fundamentais do homem, na dignidade e no valor da pessoa humana, na igualdade de direitos dos homens e das mulheres, assim como das nações, grandes e pequenas”, também por organizações privadas transnacionais, fora do controle efetivo dos Estados. O que coloca em questão os objetivos de “promover o progresso social e melhores condições de vida dentro de um conceito mais amplo de liberdade”, inclusive pela manipulação das pessoas, enquanto consumidores e cidadãos, e mesmo o de “garantir, pela aceitação de princípios e a instituição de métodos, que a força armada não será usada”, por passarem a ser dispensáveis decisões humanas, pondo em causa a Paz enquanto objetivo último da Carta.

O que tem implicações diretas para a efetividade da Declaração Universal dos Direitos Humanos, designadamente ao potenciar a Discriminação através da definição de perfis, pondo em causa a identidade e a igualdade, incluindo a identidade de género e orientação sexual; ao permitir o controle dos comportamentos humanos, incluindo a vigilância e a avaliação automatizadas e preditivas, ao ponto de esvaziar o direito à privacidade e a liberdade em geral, incluindo a de expressão; além de potenciar a manipulação das pessoas mais vulneráveis, como as crianças, as mulheres, as pessoas com deficiência e os refugiados, condicionando o seu direito de asilo, por ser suscetível de reforçar o racismo e a xenofobia; sem esquecer as implicações para a Democracia e o direito à informação resultantes da produção e distribuição especificamente direcionada de informações falsas, ainda que crescentemente verosímeis. Além de sucessivos estudos apontarem para uma crise iminente do direito ao trabalho, por força da substituição massiva dos seres humanos por sistemas de IA, em especial nas profissões envolvendo o tratamento e a produção de informação. Porém, o risco mais sério estará na coisificação do ser humano, com decisões definitivas afetando os Direitos Fundamentais a serem tomadas por máquinas, pondo em causa a Dignidade Humana.

Inteligência artificial. IA

Foto © Gerd Altmann / Pixabay

 

Manuel David Masseno é professor adjunto e investigador sénior do Laboratório UbiNET – Segurança Informática e Cibercrime do Instituto Politécnico de Beja, assim como investigador colaborador do Centro de Estudos Globais da Universidade Aberta (CEG–Uab); este texto constitui uma pré-publicação autorizada do verbete “Inteligência Artificial” destinado ao Dicionário Global dos Direitos Humanos, uma componente nuclear do projeto “Dignipédia Global – Sistematizar, Aprofundar e Defender Direitos Humanos em Contexto de Globalização“.

 

Patriarca de Lisboa convida “todos” para “momento raro” na Igreja

A um mês da ordenação de dois bispos

Patriarca de Lisboa convida “todos” para “momento raro” na Igreja novidade

O patriarca de Lisboa, Rui Valério, escreveu uma carta a convocar “todos – sacerdotes, diáconos, religiosos, religiosas e fiéis leigos” da diocese para estarem presentes naquele que será o “momento raro da ordenação episcopal de dois presbíteros”. A ordenação dos novos bispos auxiliares de Lisboa, Nuno Isidro e Alexandre Palma, está marcada para o próximo dia 21 de julho, às 16 horas, na Igreja de Santa Maria de Belém (Mosteiro dos Jerónimos).

“Sempre pensei envelhecer como queria viver”

Modos de envelhecer (19)

“Sempre pensei envelhecer como queria viver” novidade

O 7MARGENS iniciou a publicação de depoimentos de idosos recolhidos por José Pires, psicólogo e sócio fundador da Cooperativa de Solidariedade Social “Os Amigos de Sempre”. Publicamos hoje o décimo nono depoimento do total de vinte e cinco. Informamos que tanto o nome das pessoas como as fotografias que os ilustram são da inteira responsabilidade do 7MARGENS.

Apoie o 7MARGENS e desconte o seu donativo no IRS ou no IRC

Sínodo, agora, é em Roma… que aqui já acabou

Sínodo, agora, é em Roma… que aqui já acabou novidade

Em que vai, afinal, desembocar o esforço reformador do atual Papa, sobretudo com o processo sinodal que lançou em 2021? Que se pode esperar daquela que já foi considerada a maior auscultação de pessoas alguma vez feita à escala do planeta? – A reflexão de Manuel Pinto, para ler no À Margem desta semana

Nada se perde: um antigo colégio dos Salesianos é o novo centro de acolhimento do Serviço Jesuíta aos Refugiados

Inaugurado em Vendas Novas

Nada se perde: um antigo colégio dos Salesianos é o novo centro de acolhimento do Serviço Jesuíta aos Refugiados novidade

O apelo foi feito pelo Papa Francisco: utilizar os espaços da Igreja Católica devolutos ou sem uso para respostas humanitárias. Os Salesianos e os Jesuítas em Portugal aceitaram o desafio e, do antigo colégio de uns, nasceu o novo centro de acolhimento de emergência para refugiados de outros. Fica em Vendas Novas, tem capacidade para 120 pessoas, e promete ser amigo das famílias, do ambiente, e da comunidade em que se insere.

Bispos católicos de França apelam à fraternidade e justiça, mas não se demarcam da extrema-direita

Com as eleições no horizonte

Bispos católicos de França apelam à fraternidade e justiça, mas não se demarcam da extrema-direita novidade

O conselho permanente dos bispos da Igreja Católica de França considera, num comunicado divulgado esta quinta-feira, 20 de junho, que o resultado das recentes eleições europeias, que deram a vitória à extrema-direita, “é mais um sintoma de uma sociedade ansiosa, dividida e em sofrimento”. Neste contexto, e em vésperas dos atos eleitorais para a Assembleia Nacional, apresentaram uma oração que deverá ser rezada por todas as comunidades nestes próximos dias.

Agenda

Fale connosco

Autores

 

Pin It on Pinterest

Share This