Não demos conta, mas o sistema neoliberal em que assenta toda a estrutura política mundial preparou-nos faz tempo para este “admirável” mundo novo em descontrolo. A base em que está montada a Inteligência Artificial (IA), define-se, nos objetivos e nos métodos, na mesma base já impregnada no coração humano dos tempos atuais, quer no que tem de bom, quer no que tem de mau. São já tantas as vezes em que agimos por um impulso algorítmico, automático, instintivo e despudorado de empatia, que nem nos damos conta de que teríamos, se quiséssemos, a capacidade de transpor essa barreira e tocar no lado profundamente humano que nos une. Basta repararmos na indiferença com que se olham os cenários de guerra à nossa volta, na forma em como alguma comunicação social e os comentadores os abordam, por vezes, até com desprezo pelas vítimas consoante a geografia e a origem. Basta repararmos nos desequilíbrios de riqueza no planeta, na exploração dos frágeis e na instrumentalização dos povos para concluirmos como fomos domesticados a ponto de nos tornarmos humanamente irreconhecíveis. Se a história da IA estivesse plasmada num livro do Génesis destes tempos, também dela se poderia dizer que foi feita à nossa imagem e semelhança. Não deixa de ser aterrorizante chegarmos a esta conclusão. É precisamente a urgência desta reflexão que Leão XIV nos traz em Magnifica Humanitas.
À semelhança de “A criação de Adão” de Michelangelo, esta foto ironiza a criação da máquina pelo Homem e de como este se mantém sob controlo permanente. Foto © Filipe Moisés
No início de junho, Jack Clark, co-fundador da Anthropic, pedia que se ponderasse uma pausa no desenvolvimento da IA, sob pena de lhe perdermos o controlo. Dizia a notícia que, em pouco tempo, a IA conseguirá desenvolver modelos autonomamente, sem qualquer intervenção humana. É uma bola de neve sem controlo ou, se quisermos, uma bomba prestes a explodir nas nossas mãos. Não será difícil, por isso mesmo, imaginar a possibilidade de replicar as emoções humanas num algoritmo. A emoção também é, afinal de contas, uma resposta automática a um conjunto de entradas (os estímulos), que são processadas a ponto de se traduzirem em saídas: o nosso corpo reage, somos levados a agir de uma determinada forma. O algoritmo da emoção também obedece a uma estrutura cujo fluxo de instruções pode seguir uma lógica sequencial, condicional ou repetitiva; também pode ser melhorado, até porque adquirimos informação que nos permite “armazenar” a experiência para uma situação futura, traduzindo-a conscientemente naquilo a que podemos chamar de sentimento. À parte da resposta fisiológica, as respostas comportamentais e cognitivas são perfeitamente replicáveis num algoritmo artificial, mas é na parte da “tradução consciente” que a cadência genuína e natural do algoritmo da emoção se distingue no ser humano.
São sábios os versos de Pessoa, em Autopsicografia, quando nos fala do coração como o “comboio de corda” que entretém a razão. Não há nenhum sentimento que se possa expressar na dimensão humana sem esta subordinação racional que, ainda que possa seguir a mesma estrutura algorítmica, ultrapassa em larga medida a mera conexão de ideias ordenadas. Interpretamos o que sentimos porque atribuímos um significado aos estímulos que só a capacidade de discernimento nos permite compreender. E esse significado depende, tanto quanto possível, daquilo que somos, do meio em que habitamos, da cultura que temos. É certo que o algoritmo humano da emoção não será menos enviesado do que o algoritmo artificial, mas tem de sobra uma pluralidade de vivências que obedecerão mais à consciência do que aos interesses de qualquer criador. E esta é uma diferença fundamental a preservar!
Gravura colorida por J. Pass, 1821, segundo Charles Le Brun: Dezasseis rostos expressando as paixões humanas. Wikimedia Commons
Contudo, o perigo da IA não está apenas na ausência de discernimento neste “algoritmo da emoção”. Está, antes de mais, na cultura impessoal que o acompanha e que progressivamente vai transformando o trato humano, transferindo toda a responsabilidade para o indivíduo, enquanto desvirtua por completo o poder do coletivo ou da entidade corporativa na salvaguarda do bem-comum. Bom, pois é, onde é que já vimos/ouvimos isto? Ora pois, foi no tal mote do “self made man/woman” que o sistema neoliberal nos enfia pelos olhos dentro há anos, fazendo-nos crer que somos os únicos responsáveis pelos nossos sucessos e fracassos, em qualquer circunstância. O mesmo mote promovido pelos coach de bancada que proliferam como influencers em tudo o que é rede social. Mas para que se perceba melhor o problema da cultura impessoal, concretizo-o num exemplo. Há dias, lia numa publicação que alguém recorrera a uma plataforma digital para se deslocar. A experiência não foi boa, a condução foi perigosa e a utilizadora, usando do seu estatuto de cliente, recorreu ao direito que lhe assiste de reclamação na plataforma. Depois de uma série de passos burocráticos e pouco intuitivos, a utilizadora finaliza a reclamação, mas percebe a certo ponto que o sistema estava blindado. O condutor pôde também queixar-se previamente da utilizadora, salvaguardando-se, mas, sobretudo, salvaguardando involuntariamente a plataforma de responsabilidades maiores, levando-a simplesmente a assumir que o problema era da queixosa. O algoritmo cumpriu a ordem, obedeceu à sequência lógica e não discerniu. A utilizadora não teve meios de recurso: é uma formiga a lutar contra um urso invisível. Imagine-se isto replicado num qualquer serviço público ou privado de saúde, educação ou transportes? Imagine-se esta cultura impessoal no mercado de trabalho, em que o chefe passa a ser um robot que obedece a um algoritmo? A fronteira entre um sistema regulado por princípios éticos e a selvajaria é cada vez mais ténue. Se é verdade que o sistema neoliberal nos vai transformando há anos em marionetas, reféns da competição selvagem e da subjugação às regras de quem, pelo poder económico, controla o poder político, não será menos verdade afirmar que a sua implementação efetiva e desregulada se torna impune quanto mais se impõe pela materialização de um sistema que tem tanto de artificial como de impessoal e que se apresenta sem alternativa possível, enquanto oferece meia dúzia de irrecusáveis vantagens que prometem um mundo novo de oportunidades. E o indivíduo, entregue à sua sorte, é submetido à competição pela sobrevivência, à destruição moral e à desvalorização da dignidade do seu semelhante. Nunca como neste contexto fizeram tanto sentido as palavras de Agustina Bessa-Luís, quando dizia que “A competição é só civilizadora enquanto estímulo; como pretexto de abater a concorrência, é uma contribuição para a barbárie.”
O que é isto, senão o eclipse da dignidade humana de que nos fala Leão XIV, em Magnifica Humanitas? Não se trata, como bem diz o Papa, de estigmatizar a tecnologia e os seus benefícios ou sequer de recusar a sua utilização. Trata-se de refletir humanamente sobre o que daí advém, de exigir uma regulação que preserve o sentido de nos fazer “permanecer profundamente humanos” perante aquilo que é claramente uma ameaça à liberdade, plasmada nos riscos do poder concentrado em poucas mãos. Ao recordar que é precisamente por isso que a IA não é neutra e que estes são sistemas que “não têm consciência moral: não julgam o bem e o mal, não compreendem o significado último das situações e não arcam com o peso das consequências”, Leão XIV elenca tudo aquilo que distingue o algoritmo humano do algoritmo artificial da emoção. E esta reflexão tem de ser feita, a bem da preservação da humanidade. Como escreveu Pedro Abrunhosa, numa magnífica letra, o seguinte excerto poderia ser hoje uma pergunta a cada um de nós:
“De costas voltadas não se vê o futuro
Nem o rumo da bala, nem a falha no muro
E alguém me gritava
Com voz de profeta
Que o caminho se faz
Entre o alvo e a seta
Quem me leva aos meus fantasmas
Quem me salva desta espada
Quem me diz onde é a estrada” ?
Filipe Moisés é engenheiro do ambiente pela Faculdade de Engenharia da Universidade do Porto (FEUP). Atualmente, é estudante de doutoramento e investigador na mesma faculdade, no Laboratório de Engenharia de Processos, Ambiente, Biotecnologia e Energia (LEPABE).
O 7MARGENS aceita e incentiva a reflexão e o debate livre e plural. Os textos de opinião publicados traduzem a opinião dos seus autores.
Notícias Relacionadas
