Inteligência Artificial: O objeto e os riscos

A Inteligência Artificial (IA) é uma das questões fundamentais do nosso tempo e porventura aquela que mais implicações, positivas ou negativas, terá no nosso futuro. Na última semana, o Parlamento Europeu aprovou o primeiro regulamento sobre a matéria. Como tudo o que é desconhecido no sentido de escapar ao nosso controlo e racionalidade, a IA é tema controverso e assusta-nos. Este é o segundo de três textos (aqui pode ler-se o primeiro) sobre as implicações da Inteligência Artificial nos Direitos Humanos da autoria de Manuel David Masseno, professor adjunto e investigador sénior do Laboratório UbiNET – Segurança Informática e Cibercrime do Instituto Politécnico de Beja. Estes textos constituem uma pré-publicação autorizada do verbete “Inteligência Artificial” destinado ao Dicionário Global dos Direitos Humanos, uma componente nuclear do projeto “Dignipédia Global – Sistematizar, Aprofundar e Defender Direitos Humanos em Contexto de Globalização“. Os restantes textos serão publicados nos dois próximos dias. 

Imagem gerada no DALL-E (programa de inteligência artificial que cria imagens a partir de descrições textuais) com prompt de Miguel Panão.

Nos últimos anos, a Inteligência Artificial (IA) tem vindo a ocupar uma importância crescente nas preocupações de todos enquanto ameaça não apenas para os Direitos Humanos, como até para a própria sobrevivência da Humanidade, a par da aceleração das alterações climáticas e da proliferação nuclear descontrolada. Neste exato sentido, são de salientar as reiteradas intervenções do Secretário-Geral das Nações Unidas e do Papa Francisco.

Esta situação resulta dos desenvolvimentos desregulados da própria tecnologia, com a transição de sistemas informáticos determinados por programadores, desde a IA simbólica e a aprendizagem automática, sempre com finalidades específicas e consequências suscetíveis de predeterminação, para a aprendizagem profunda, com aptidões múltiplas. Atualmente, a aproximação à IA geral, em especial por meio dos grandes modelos de linguagem, o modo como os sistemas processam os dados e a determinação das finalidades, tendem a escapar ao controle humano, exigindo precauções adicionais quanto à inserção de salvaguardas eficazes.

Aliás, esta transição é patente nas Definições de IA adotadas pela Organização para a Cooperação e o Desenvolvimento Económico (OCDE), as quais constituem “a referência” neste domínio. Assim, se na de maio de 2019 “Um sistema de IA é um sistema baseado em máquina que pode, para um determinado conjunto de objetivos definidos pelo homem, fazer previsões, recomendações ou decisões que influenciam ambientes reais ou virtuais”, na de novembro de 2023 já temos que “Um sistema de IA é um sistema baseado em máquina que, para objetivos explícitos ou implícitos, infere, a partir das informações que recebe, como gerar resultados como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuais. Diferentes sistemas de IA variam nos seus níveis de autonomia e adaptabilidade após a implantação.”.

Em extrema síntese, na atual Definição, os objetivos passaram a poder estar apenas “implícitos”, os resultados resultarão também de “inferências” a partir dos dados acedidos e os “conteúdos” passaram a ter lugar entre os resultados, em consequência do auge da AI generativa. Adicionalmente, foi colocada uma ênfase especial na adaptabilidade aos ambientes físicos, muito para lá do Ciberespaço, assim como na maior autonomia potencial perante os criadores, os quais podem ser outros sistemas de IA e não apenas seres humanos.

Concretamente, se nos colocarmos na perspetiva da Carta das Nações Unidas, temos que a IA é suscetível de ameaçar os Valores ínsitos no Preâmbulo, por permitir interferências “nos direitos fundamentais do homem, na dignidade e no valor da pessoa humana, na igualdade de direitos dos homens e das mulheres, assim como das nações, grandes e pequenas”, também por organizações privadas transnacionais, fora do controle efetivo dos Estados. O que coloca em questão os objetivos de “promover o progresso social e melhores condições de vida dentro de um conceito mais amplo de liberdade”, inclusive pela manipulação das pessoas, enquanto consumidores e cidadãos, e mesmo o de “garantir, pela aceitação de princípios e a instituição de métodos, que a força armada não será usada”, por passarem a ser dispensáveis decisões humanas, pondo em causa a Paz enquanto objetivo último da Carta.

O que tem implicações diretas para a efetividade da Declaração Universal dos Direitos Humanos, designadamente ao potenciar a Discriminação através da definição de perfis, pondo em causa a identidade e a igualdade, incluindo a identidade de género e orientação sexual; ao permitir o controle dos comportamentos humanos, incluindo a vigilância e a avaliação automatizadas e preditivas, ao ponto de esvaziar o direito à privacidade e a liberdade em geral, incluindo a de expressão; além de potenciar a manipulação das pessoas mais vulneráveis, como as crianças, as mulheres, as pessoas com deficiência e os refugiados, condicionando o seu direito de asilo, por ser suscetível de reforçar o racismo e a xenofobia; sem esquecer as implicações para a Democracia e o direito à informação resultantes da produção e distribuição especificamente direcionada de informações falsas, ainda que crescentemente verosímeis. Além de sucessivos estudos apontarem para uma crise iminente do direito ao trabalho, por força da substituição massiva dos seres humanos por sistemas de IA, em especial nas profissões envolvendo o tratamento e a produção de informação. Porém, o risco mais sério estará na coisificação do ser humano, com decisões definitivas afetando os Direitos Fundamentais a serem tomadas por máquinas, pondo em causa a Dignidade Humana.

Foto © Gerd Altmann / Pixabay

Manuel David Masseno é professor adjunto e investigador sénior do Laboratório UbiNET – Segurança Informática e Cibercrime do Instituto Politécnico de Beja, assim como investigador colaborador do Centro de Estudos Globais da Universidade Aberta (CEG–Uab); este texto constitui uma pré-publicação autorizada do verbete “Inteligência Artificial” destinado ao Dicionário Global dos Direitos Humanos, uma componente nuclear do projeto “Dignipédia Global – Sistematizar, Aprofundar e Defender Direitos Humanos em Contexto de Globalização“.