“Os sistemas de inteligência artificial permitem que se condene de forma uniforme, seguindo algoritmos baseados em dados relativos a um grande número de casos semelhantes. Permitem calcular, com base nesses dados, as probabilidades de reincidência e, desse modo, determinar a escolha e a medida da pena.” Imagem: Gerd Altmann / Pixabay
De entre as várias utilizações possíveis de sistemas de inteligência artificial, uma das que mais questões de ordem ética pode suscitar é a do âmbito judicial e, mais especificamente, a da própria decisão, incluindo a que condena em penas ou outras sanções. Que esses sistemas sejam usados como instrumento auxiliar dessas decisões, não suscitará, em regra, esse tipo de questões, embora deva sempre analisar-se de que modo as podem influenciar. Mas não é só esse tipo de utilização instrumental que está em causa. Podem máquinas com capacidade de recolha de dados muito superiores às capacidades humanas condenar mais rápida, económica, eficaz e corretamente do que o fazem os seres humanos?
Não se trata de ficção científica. Ao que julgo saber, já isso se verifica, com alguma frequência, nos Estados Unidos e, mais ainda, na China.
Os sistemas de inteligência artificial permitem que se condene de forma uniforme, seguindo algoritmos baseados em dados relativos a um grande número de casos semelhantes. Permitem calcular, com base nesses dados, as probabilidades de reincidência e, desse modo, determinar a escolha e a medida da pena. Com esse mesmo cálculo, pode ser decida a concessão, ou negação, da liberdade condicional. Desse modo poderá ser garantida a uniformidade de critérios exigida pelo princípio da igualdade
O que está em causa, basicamente, é, por um lado, a unicidade de cada caso e de cada pessoa. “Cada caso é um caso” – diz-se habitualmente. E, mais profundamente, há que ter presente que cada pessoa é “única e irrepetível”. Na minha tarefa de formador de magistrados, várias vezes salientei como a qualidade de um juiz se evidencia não tanto quando repete aquilo que a doutrina e a jurisprudência já analisaram, mas, sobretudo, quando sabe analisar o que cada caso tem de único, que nunca outros analisaram e, desse modo, decide com a justiça reclamada pelo que de único tem esse caso.
Por outro lado, não pode ninguém, nem mesmo um “criminoso de carreira”, ser marcado para sempre pelo seu passado, como se nenhuma hipótese de mudança fosse possível. A dignidade da pessoa impede que se rejeite à partida tal possibilidade. É também por isso que são inadmissíveis a pena de morte e a prisão perpétua.
Afirma o Papa Francisco, a este respeito, na sua mensagem para o Dia Mundial da Paz deste ano:
«O respeito fundamental pela dignidade humana requer a rejeição de que a unicidade da pessoa seja identificada com um conjunto de dados. Não se deve permitir que os algoritmos determinem o modo como entendemos os direitos humanos, ponham de lado os valores essenciais da compaixão, da misericórdia e do perdão, ou eliminem a possibilidade de um indivíduo mudar e deixar para trás o passado.»
Quando ainda não se falava de inteligência artificial, aos meus formandos futuros juízes dava um exemplo que, em meu entender, não devia ser seguido: num determinado município o montante das coimas a pagar por quem fosse condenado por construção clandestina era fixado rigorosamente de acordo com uma fórmula matemática que fazia depender esse montante, sobretudo, da área de construção. É claro que dessa fórmula não podia constar uma circunstância não mensurável, mas da maior importância: a motivação que subjaz a essa construção,; que podia ser a de construir a primeira, ou a segunda habitação da família; que podia ser a de construir uma garagem, ou um local para guardar instrumentos de trabalho, animais de companhia ou instrumentos de lazer.
É verdade que, sem sistemas de inteligência artificial, já desde sempre nos influenciamos pelos antecedentes criminais ao tomar decisões como a prisão preventiva, a condenação em pena de prisão efetiva, ou outras. Seria hipócrita afirmar o contrário. Tal sucede porque essa circunstância opera como agravante, mas também porque se considera o perigo de continuação da atividade criminosa. Mas nunca pode ser excluída a possibilidade de mudança de rumo, por muito que tal se revele difícil ou improvável. E isso depende da confiança que possa merecer aquela pessoa “única e irrepetível” (para além dos cálculos estatísticos que a possam igualar a muitas outras) com que o juiz se encontra “cara a cara”. Um encontro que nenhuma máquina pode substituir.
Assim, por exemplo, pode um passado de sucessivas condenações todas devidas à toxicodependência ser, em larga medida, desconsiderado quando o condenado dessa dependência já se libertou.
Dir-se-á que, nestes casos, também haverá que ter em conta os cálculos de probabilidade de recaída das pessoas supostamente libertas da toxicodependência…
Mas a realidade humana também é composta de relações de confiança nem sempre bem-sucedidas, de fragilidades no cumprimento de propósitos, de riscos assumidos, de esperanças e desilusões, de erros, de vitórias e derrotas.
Parece-me preferível conviver com esta dimensão da realidade humana do que aceitar que sejam máquinas a condenar alguém.
Pedro Vaz Patto é presidente da Comissão Nacional Justiça e Paz, da Igreja Católica.
Notícias Relacionadas
