O Papa Leão XIV considera “cada vez mais urgente introduzir a alfabetização mediática, informacional e em inteligência artificial (IA) em todos os níveis dos sistemas educativos”, entendendo, contudo, que “o desafio que temos pela frente não é o de deter a inovação digital, mas sim o de guiá-la, de estarmos cientes de sua natureza ambivalente”. Estes aspetos são salientados na mensagem papal para o 60º Dia Mundial das Comunicações Sociais, divulgada este sábado, 24 de janeiro, festa de S. Francisco de Sales, patrono dos jornalistas e escritores. A mensagem leva por título Preservar as vozes e os rostos humanos.
Leão XIV reconhece que este tipo de alfabetização já se converteu numa prática de algumas instituições civis, defendendo que os católicos podem e devem “contribuir para garantir que as pessoas — especialmente os jovens — adquiram a capacidade de pensamento crítico e cresçam em liberdade espiritual”.
Na mesma linha, e em sintonia com o que entendem organizações como a Unesco ou o Conselho da Europa e a União Europeia, iniciativas e políticas neste âmbito devem alcançar também “os idosos e os membros marginalizados da sociedade, que muitas vezes se sentem excluídos e impotentes diante da rápida mudança tecnológica”.
O Papa Leao XIV: “O rosto e a voz são características únicas e distintivas de cada pessoa; manifestam a sua identidade irrepetível e são o elemento constitutivo de todo o encontro”. Foto Vatican Media
O Papa abre com um foco que desenvolve o título da sua mensagem, quando refere:
“O rosto e a voz são características únicas e distintivas de cada pessoa; manifestam a sua identidade irrepetível e são o elemento constitutivo de todo o encontro”. Além disso, “são sagrados”, pois” foram “dados por Deus, que nos criou à sua imagem e semelhança, chamando-nos à vida com a Palavra que ele mesmo nos dirigiu”.
“Não somos – vinca o texto – uma espécie constituída por algoritmos bioquímicos, definidos de antemão. Cada um de nós tem uma vocação insubstituível e inimitável que emerge da vida e se manifesta precisamente na comunicação com os outros”, razão pela qual o desafio com que a tecnologia digital confronta as pessoas “não é tecnológico, mas antropológico”.
Centrando-se, a partir daí, sobretudo no fenómeno da inteligência artificial, que lhe tem merecido já outras abordagens, o Pontífice considera que, com os recentes desenvolvimentos, se “corre o risco de alterar radicalmente alguns dos pilares fundamentais da civilização humana, que por vezes consideramos garantidos”.
“Ao simular vozes e rostos humanos, sabedoria e conhecimento, consciência e responsabilidade, empatia e amizade, os sistemas conhecidos como inteligência artificial não só interferem nos ecossistemas de informação, como também invadem o nível mais profundo da comunicação: o das relações interpessoais”. Imagem: Diana Artemis / Shutterstock
“Ao simular vozes e rostos humanos, sabedoria e conhecimento, consciência e responsabilidade, empatia e amizade, os sistemas conhecidos como inteligência artificial não só interferem nos ecossistemas de informação, como também invadem o nível mais profundo da comunicação: o das relações interpessoais”, acrescenta o documento. Assim, perante um desafio que não é tanto tecnológico, mas sobretudo antropológico, cabe “proteger rostos e vozes”, o que significa, em última análise, “protegermo-nos a nós mesmos”.
A mensagem papal enuncia, depois, algumas caraterísticas da relação entre as ferramentas e tecnologias digitais e os humanos. Uma delas é a dos algoritmos que “maximizam” o envolvimento nas redes sociais — “o que é lucrativo para as plataformas”; “recompensam emoções rápidas e penalizam expressões humanas mais demoradas, como o esforço para compreender e refletir”; e remetem grupos de pessoas para “bolhas de consenso fácil e indignação igualmente fácil”. Desse modo, os algoritmos “enfraquecem a capacidade de ouvir e pensar criticamente, e aumentam a polarização social”.
Quanto à inteligência artificial, o Papa alerta para “uma confiança ingenuamente acrítica”, como se ela [a IA] fosse “uma ‘amiga’ onisciente, dispensadora de todas as informações, repositório de todas as memórias e ‘oráculo’ de todos os conselhos” – o que “pode corroer ainda mais a nossa capacidade de pensar analítica e criativamente”.
Com a capacidade de os sistemas de inteligência artificial assumirem cada vez mais o controle da produção de textos, músicas e vídeos, a indústria criativa humana “corre o risco de ser desmantelada (…) transformando as pessoas em meros consumidores passivos de pensamentos impensados, produtos anónimos, sem autor e sem valor”.
“A questão que nos interessa, porém – salienta o documento – não é o que a máquina pode ou poderá fazer, mas o que nós podemos e poderemos fazer, crescendo em humanidade e conhecimento, com o uso sábio de ferramentas tão poderosas à nossa disposição”, sem nunca “renunciar ao processo criativo e entregar as nossas funções mentais e imaginação às máquinas”.
Olhando a experiência que os utilizadores fazem ao usar as tecnologias digitais, o Papa salienta aspetos como:
– A crescente dificuldade de determinar se estamos a interagir com outros seres humanos ou com bots ou influenciadores virtuais, sendo que esses agentes automatizados “influenciam os debates públicos e as escolhas das pessoas”;
– “A estrutura dialógica, adaptativa e mimética desses modelos linguísticos é capaz de imitar sentimentos humanos e, assim, simular relacionamentos” – uma forma de antropomorfização que “pode até ser divertida”, mas que “é também enganosa, especialmente para os mais vulneráveis”;
– Quando “substituímos relacionamentos com outras pessoas por relacionamentos com inteligências artificiais treinadas para catalogar os nossos pensamentos e, assim, construir um mundo de espelhos ao nosso redor”, permitimos que “nos roubem a oportunidade de encontrar o outro, que é sempre diferente de nós e com quem podemos e devemos aprender a interagir”;
– Os sistemas emergentes e em especial os modelos de IA “são moldados pela visão de mundo daqueles que os constroem e podem, por sua vez, impor formas de pensar ao replicar os estereótipos e enviesamentos presentes nos dados que utilizam”, levando a “uma perceção alterada da realidade”;
– Por trás dessa enorme força invisível que nos envolve a todos, há apenas um punhado de empresas (…) ou seja, os arquitetos da inteligência artificial, que suscitam o problema do “controle oligopolista de sistemas algorítmicos e de inteligência artificial, capazes de influenciar subtilmente comportamentos e até mesmo reescrever a história da humanidade — incluindo a história da Igreja — muitas vezes sem que tenhamos plena consciência disso”.
Perante esta realidade, de que aqui se colhem apenas alguns aspetos, o desafio que o Papa apresenta não vai no sentido de travar ou, mais ainda, virar as costas à inovação digital. O caminho será tomar consciência da “ambivalência” das tecnologias e “erguer a voz em defesa dos seres humanos, para que essas ferramentas possam ser verdadeiramente integradas por nós como aliados”.
Isso passa por uma “possível aliança” de esforços assente em três pilares:
– Responsabilidade, que diz respeito a todos os intervenientes e agentes, a começar pelos utilizadores, criadores e desenvolvedores de modelos de IA, aqueles que estão à frente de plataformas online, sem esquecer os legisladores nacionais e os reguladores supranacionais, que são responsáveis por assegurar o respeito pela dignidade humana. Também as empresas de media e comunicação “não podem permitir que algoritmos, determinados a vencer a batalha por alguns segundos extras de atenção a qualquer custo, prevaleçam sobre seus valores profissionais, que se concentram na busca pela verdade”, tendo em conta que a “informação é um bem público”.
– Cooperação com vista à construção e implementação de “uma cidadania digital informada e responsável”, já que nenhum setor – indústria de tecnologia, órgãos reguladores, empresas criativas, academia, artistas, jornalistas e educadores – pode criar sozinho “mecanismos de salvaguarda” que permitam “enfrentar o desafio de impulsionar a inovação digital e a governança da IA”.
– Educação : a construção da tal “cidadania digital informada e responsável” carece vitalmente da capacitação pessoal relativa à “reflexão crítica; avaliação da confiabilidade das fontes e os possíveis interesses por trás da seleção das informações que nos chegam; e compreensão dos mecanismos psicológicos que as ativam”. Isto para permitir que as famílias, comunidades e associações “desenvolvam critérios práticos para uma cultura de comunicação mais saudável e responsável”. É aqui que a alfabetização para literacia mediática pode desempenhar um papel crucial. Ela é, segundo Leão XIV, análoga ao desafio que a revolução industrial enfrentou, no sentido de que todos aprendessem a ler, escrever e contar.
“Precisamos do rosto e da voz para expressar novamente a pessoa. Precisamos de valorizar o dom da comunicação como a verdade mais profunda da humanidade, para a qual devemos também orientar toda inovação tecnológica”, remata o Papa.
“Precisamos do rosto e da voz para expressar novamente a pessoa. Precisamos de valorizar o dom da comunicação como a verdade mais profunda da humanidade, para a qual devemos também orientar toda inovação tecnológica”. Pintura: Pormenor do painel pintado pela artista plástica Ana Cordovil para o Encontro da Fraternidade. DR
Notícias Relacionadas
