A Caixa de Pandora dos Algoritmos.

A CAIXA DE PANDORA DOS ALGORITMOS.

Parafraseando a velha e conhecida provocação da Esfinge de Tebas que desafiava os passantes, podemos escrever: “Decifra-me ou lhe retirarei desta plataforma!”.

Com a proliferação de algoritmos que habitam hoje, o mundo das Big Techs, deveremos estar de acordo com os seus preceitos ou seremos banidos das redes sociais, em função das políticas que lhes foram implementadas.

A censura mediante o uso de softwares de inteligência artificial (AI), que abastece seus algoritmos de machine learning, passou a ter uma presença universal, em todas as plataformas de mídia que nos conectamos!

Um dos grandes problemas encontra-se no viés, usados por esses algoritmos, que nos cerceiam ou nos conduzem. Por exemplo, ao realizarmos uma pesquisa através dos mecanismos de buscas do Google ou do Bing (Edge) , passamos a  sofre um processo de filtragem, promovida por esses algoritmos que, ao final, acabamos em um  verdadeiro processo de afunilamento do nosso conhecimento. Assim, cada vez mais, o espectro  da nossa pesquisa vai se reduzindo, tal qual um filtro/funil que conduz um líquido até um recipiente.

Em artigos que publicamos em nosso Blog (https://professorgoncalves.blogspot.com) : “Algoritmos, mestres e senhores” (28/Nov/2018) e “Prisioneiros dos Algoritmos” (03/Jan/2022), tratamos desses perigos!

A palavra algoritmos foi criada pelo persa, al-Khawarizmi; matemático, astrônomo, astrólogo, geógrafo; um erudito da Casa da Sabedoria em Bagdá.  No contexto de uma definição clássica produzida pela Universidade de Oxford, temos que: “um algoritmo é um conjunto de regras ou instruções bem definidas para solução de um problema.”

Com a massiva produção de dados, gerados na comunicação e entretenimento, Youtube, Facebook (Meta), ferramentas de busca (Google), Instagram, WhatsApp etc, criando, por via de consequência, um massivo volume de dados (Big Data), foi então possível potencializar os algoritmos.

Nesse contexto, os avanços da inteligência artificial nos campos de aprendizado máquina (machine learning)  e aprendizado profundo (deep learning), proliferou de tal forma que passou a ser uma verdadeira “doença tecnológica, muito especialmente porque eles tem a possibilidade de aprender ao cabo de cada iteração que realizam e, levando-se em conta que eles não sofrem pressões humanas, desapontamentos psicológicos, problemas emocionais ou conjugais e nem sentem fadiga, seguramente, podem operar 24 horas por dia e sete dias por semana, melhorando assim, de forma exponencial, a sua resposta de performance.

Como comentei em meu Blog: ...”em verdade, como explica Molina, pesquisador de inteligência artificial aplicada da Universidade de São Carlos II – Madri: “os algoritmos foram desenhados para resolver problemas concretos, mas não para compreender o que está acontecendo ao seu redor, só veem sinais e aplicam sempre a mesma solução. As máquinas são totalmente autistas, e lhes dar uma compreensão de seu entorno é muito complicado” (op. cit. Gonçalves, Blog - 2018).

Por exemplo, nos EUA, os juízes criminais têm como “auxiliar”, um programa de inteligência artificial denominado COMPAS (Correction Offender Management Profiling for Alternative Sanctions); um sistema de gerenciamento do perfil dos infratores com objetivo de sugerir sanções alternativas.

Esse sistema destina-se a avaliar o risco e a previsão de criminalidade para os réus nas audiências prévias ao julgamento. O algoritmo de AI desse sistema baseia-se na análise de 173 variáveis, com a finalidade de calcular a probabilidade de reincidência criminal de cada indivíduo, numa escala de 1 a 10.

Considerando que a base de dados de aprendizado desses algoritmos foi construída com informações recebidas do departamento de polícia, as perguntas usadas na pesquisa inicial do COMPAS, acabavam construindo um viés humano considerável!

O resultado da análise desse sistema, chegava a tal ponto de perpetuar recomendações, inadvertidamente racistas, levando a que os negros recebam atributos negativos com uma pontuação muito maior do que os meliantes brancos.

Outro caso clássico que também cito nos artigos referenciados, aconteceu em 2017, quando a polícia de Israel acabou prendendo um trabalhador palestino, que foi interrogado por diversas vezes, pelo simples fato de ter postado uma foto no Facebook, ao lado de um trator com os dizeres: “bom dia” em árabe.

Como o software de AI não tinha essa palavra em seu repertório, ele a associou à palavra “atacar” em hebraico que é muito semelhante. Somente após a descoberta do erro foi que esse palestino foi liberado!

Com bem descreve Weizenbaum do MIT (op. cit. Gonçalves, Blog - 2018): “nunca deveríamos deixar que os computadores tomassem decisões importantes, porque nunca terão as qualidades humanas como a compaixão e a sabedoria.”

O certo é que hoje, convivemos com máquinas que funcionam como verdadeiros Big Brothers do George Orwell e mesmo, frequentemente somos tolhidos por verdadeiros Ministérios da Verdade (Orwell e, sua obra 1984).

Assim, tal qual o mito de Prometeu, considerado um defensor da humanidade, que ao roubar o fogo de Héstia e entregá-lo aos mortais (fornecimento de tecnologia) levou a Zeus, temendo que os mortais ficassem tão poderosos quanto os próprios deuses, a puni-lo, deixando-o amarrado a uma rocha por toda a eternidade, enquanto uma grande águia comia todo dia seu fígado, que se regenerava!

A hora é de uma grande reflexão!

“Liberdade, Liberdade abra as asas sobre nós!”