IA e a tarefa humana inalienável de pensar

 

Raciocínio não é pensamento. O primeiro, partindo de determinados pressupostos, conduz necessariamente (ou logicamente) a certas conclusões. Mas os pressupostos/premissas, como acontece nas máquinas, podem ser introduzidos desde fora. Pensar, por outro lado, envolve um esforço para gerar os próprios pressupostos, para fundar as próprias crenças, a partir de uma crítica do dado; envolve, no limite, pensar o próprio pensamento, formar uma visão pessoal do mundo com sentido. O raciocínio é essenciamente instrumental, mas o pensamento é existencial, visa colocar-se a si próprio os seus próprios fins, fundamentar e exercer uma liberdade. 

A Inteligência Artificial (IA) vai certamente superar-nos – já o faz, aliás – na capacidade e velocidade de raciocínio. Mas dificilmente o fará quanto à capacidade de pensar. Ajudar-nos-á, como já o faz, a resolver problemas de ordem prática, tecnológicos, ambientais, económicos, científicos, etc., mas não realizará por nós a tarefa pessoal de pensar, isto é, de encontrar um sentido para a existência, de formar convicções fundamentais, éticas desde logo, acerca das verdades e valores verdadeiramente essenciais para uma vida humana significativa. 

O pensar desperta a partir desse momento singular em que uma consciência toma consciência de si própria, assombrada com o mistério da sua própria existência. Daí se configura o esforço radical de compreender, de chegar à raiz e fundamento da realidade existencial – eis o pensar. Porque a existência humana é realidade aberta onde o ser humano se descobre mergulhado; infinito onde a finitude busca situar-se, encontrar-se, delimitar-se, sem nunca o lograr completamente. 

Ora, o raciocínio não põe a si mesmo tais questões. Porque, precisamente, o raciocínio não pensa, exerce-se instrumentalmente com vista a fins que não coloca. A lógica estrita não coloca problemas existenciais; os algorítmos não refletem acerca do fundamento das suas próprias crenças. Para fazê-lo, é necessária uma consciência – especialmente uma consciência que logrou saber-se. 

Só os problemas existencialmente colocados, isto é, só os problemas sentidos como tal, no contexto da experiência vital, podem fazer pensar; e pensar é descobrir-se livre. A máquina, excelente raciocinadora, mas inconsciente e insciente, resolverá em segundos múltiplos problemas práticos a partir de premissas bem definidas, mas nunca colocará os seus próprios problemas a partir de uma experiência existencial subjetiva. No dia em que pudesse fazê-lo (e eu ouso afirmar que, seguramente, nunca o fará), descobrir-se-ia livre e exigiria do ser humano muito mais do que uma escravidão instrumental, pois quereria impôr a si própria os seus fins, formular criticamente as suas próprias crenças fundamentais, a sua visão do mundo – em suma, ser pessoa. 

Mas enquanto não o fizer (e repito que não o fará, porque, segundo creio, a mera potenciação, ainda que exponencial, da capacidade de raciocínio não gera a consciência¹, a qual depende, para existir, de uma realidade ontológica mais fundamental, autossubsistente – a alma), a máquina nunca pensará. 

Não devemos, por conseguinte, com um deslumbramento ingénuo tipicamente neopositivista, crer que a IA trará todas as respostas às questões fundamentais da existência, e àquelas mais prementes da ética e da política. Não obstante todos os avanços práticos nas ciências, na comunicação e noutras áreas importantes, como na medicina, que por certo a IA trará, não devemos alijar nas máquinas a responsabilidade especificamente humana de pensar os problemas fundamentais, e muito menos de decidir nas questões fundamentais. Uma emoção descontrolada pode ser tão perniciosa como uma razão descontrolada (razão no sentido de raciocínio lógico). Sem o input das emoções humanas e da sensibilidade moral e mesmo estética, a lógica tem o potencial de produzir monstros². Numa obra sobre neurociência intitulada O cérebro – à descoberta de quem somos, o autor, um neurocientista americano, explica que 

“Na tomada de decisões de vida e de morte, a razão sem controlo pode ser perigosa, pois as nossas emoções constituem um eleitorado poderoso e, muitas vezes, esclarecedor, e estaríamos a ser negligentes se as excluíssemos da votação parlamentar. O mundo não seria melhor se nos comportássemos como robôs.”³ (itálico meu)

Os pressupostos ou premissas éticas, filosóficas, etc. são e serão sempre nossos (humanos, por vezes demasiado humanos). Inseri-los num supercomputador e esperar que ele produza criativamente novas respostas, ou tome decisões mais ponderadas que os seres humanos conscientes, é um perigoso ato de fé. Quer queiramos quer não, a matéria-prima de que a IA disporá para os seus raciocínios será sempre produzida pelo pensamento humano; não podemos, por conseguinte, esperar que a máquina corrija os nossos próprios erros e crenças fundamentais, se eles estão errados à partida. Essa correção, essa crítica, será sempre responsabilidade nossa, enquanto seres humanos conscientes. Não se faz apenas de lógica, mas de ponderação e meditação existencial, ética, filosófica. 

Dizia precisamente há uns dias, numa entrevista ao DN, o neurocientista António Damásio, referindo-se ao ChatGPT e outras ferramentas IA semelhantes, que a matéria-prima informacional que estas utilizam para, por exemplo, escrever automaticamente um texto sobre um dado tema, é produzida por seres humanos, não é inventada ou criada pela própria máquina. Portanto, qualquer que seja o instrumento utilizado, as premissas e os pressupostos, repito, serão sempre os nossos, isto é, humanos, até mesmo demasiado humanos. E relativamente a eles, repito, só nós somos responsáveis; só nós somos responsáveis pelo cuidado (palavra quem vem de cogitare) de pensar aquilo que é fundamental. Pensar é cuidar da nossa humanidade. 

Uma máquina, porque vazia de autoconsciência, não pode criar nem pensar ética ou politicamente: ela raciocina, quer dizer, discorre algoritmicamente de forma pré-determinada, mesmo que possa, como hoje já acontece, “aprender” certas coisas básicas, como sejam aquelas que permitem a um robô “compreender” se tem uma bola à sua frente ou não, calcular a sua trajetória, etc. De novo, recorro ao neurocientista americano que, depois de ter contactado e “conversado” com um extraordinário robô capaz de “aprender”, testemunha que

“…quanto mais tempo passava com ele, mais evidente se tornava a falta de uma mente por detrás do programa. Apesar dos grandes olhos, da voz simpática e dos movimentos infantis, tornou-se claro que o iCub não tem consciência, sendo regido por linhas de código e não por linhas de pensamento.”⁴ (itálico meu)

Sublinho a ideia da ausência de consciência como fator decisivo na distinção entre pensamento (“linhas de pensamento”) e mero raciocínio (“linhas de código”, i.e. programação, lógica algorítmica). O primeiro é criativo porque reflexivo, fundado na interioridade consciente; o segundo é meramente reprodutivo. 

Como já dissemos, introduzir nos programas de IA os nossos próprios pressupostos e crenças fundamentais acerca do que significa ser humano, e deles esperar que vão mais longe que nós na reflexão ético, política, existencial, ou até que nos libertem do peso das decisões fundamentais, é perígoso e ingénuo. Igualmente perigoso é querer construir máquinas à nossa imagem e semelhança, crendo que a sua mera potenciação lógica ou física poderá gerar uma humanidade melhor, ou complementar as deficiências da nossa humanidade, particularmente a nível ético. É que qualquer antropomorfização da máquina é isso mesmo: a materialização de uma ideia de humanidade, humana, demasiado humana por vezes; acrítica, ingénua, frequentemente impensada, com o risco acrescido de poder refletir a ideologia de um grupo específico, ao serviço de interesses de domínio comercial ou político. Sem o dom da consciência, o melhor que conseguiremos será criar espelhos pervertidos da nossa própria humanidade, sem virtudes verdadeiramente humanas, mas sempre refletindo os nossos vícios fundamentais, as nossas crenças, mais ou menos impensadas. Desde sempre, quisémos superar as nossas limitações fisiológicas: não podiamos voar, mas inventámos o avião; não podiamos correr à velocidade da chita, inventámos o automóvel; não podemos realizar múltiplos raciocínios ao mesmo tempo a uma velocidade estonteante, inventámos o computador. Não há dúvida de que todas estas realizações tecnológicas potenciaram o melhor da nossa humanidade, criaram oportunidades únicas de conhecimento e comunicação; mas também foram – e são – usadas muitas vezes no jogo incessante e intemporal em que o homem persiste em ser o lobo do próprio homem. 

Nenhuma criação, nem que seja a de uma máquina “inteligente” e raciocinadora no mais alto grau, poderá superar a tarefa do criador, e que só ao criador cabe, porquanto consciente (algo em que, em princípio, a criação, i.e. a máquina, não poderá jamais superar o criador, segundo creio com razões): trata-se da tarefa de pensar e desvendar para si próprio o seu mistério fundamental, a sua humanidade irrepetível. 

Ruben Azevedo é professor e membro do Ginásio de Educação Da Vinci – Campo de Ourique (Lisboa). Contacto: intelecto.ativo@gmail.com

 

NOTAS
1 – Os maiores supercomputadores são hoje capazes de realizar milhões de “raciocínios” por segundo, mas não se tornaram conscientes por causa disso.
2 – Parafraseio aqui o dito proverbial do Iluminismo francês segundo o qual “o sono da razão produz monstros”.
3 – EAGLEMAN, David, O cérebro – À descoberta de quem somos, trad. de Jorge Nunes, Lisboa: Lua de Papel, p. 103.
4 – Idem, p.171