A CAIXA DE PANDORA DOS ALGORITMOS.
Parafraseando a velha e conhecida provocação da Esfinge de
Tebas que desafiava os passantes, podemos escrever: “Decifra-me ou lhe
retirarei desta plataforma!”.
Com a proliferação de algoritmos que habitam hoje, o mundo
das Big Techs, deveremos estar de acordo com os seus preceitos ou seremos
banidos das redes sociais, em função das políticas que lhes foram
implementadas.
A censura mediante o uso de softwares de inteligência
artificial (AI), que abastece seus algoritmos de machine learning, passou
a ter uma presença universal, em todas as plataformas de mídia que nos conectamos!
Um dos grandes problemas encontra-se no viés, usados por esses
algoritmos, que nos cerceiam ou nos conduzem. Por exemplo, ao realizarmos uma
pesquisa através dos mecanismos de buscas do Google ou do Bing (Edge) ,
passamos a sofre um processo de
filtragem, promovida por esses algoritmos que, ao final, acabamos em um verdadeiro processo de afunilamento do nosso
conhecimento. Assim, cada vez mais, o espectro
da nossa pesquisa vai se reduzindo, tal qual um filtro/funil que conduz
um líquido até um recipiente.
Em artigos que publicamos em nosso Blog (https://professorgoncalves.blogspot.com)
: “Algoritmos, mestres e senhores” (28/Nov/2018) e “Prisioneiros dos Algoritmos”
(03/Jan/2022), tratamos desses perigos!
A palavra algoritmos foi criada pelo persa, al-Khawarizmi;
matemático, astrônomo, astrólogo, geógrafo; um erudito da Casa da Sabedoria em Bagdá.
No contexto de uma definição clássica
produzida pela Universidade de Oxford, temos que: “um algoritmo é um conjunto
de regras ou instruções bem definidas para solução de um problema.”
Com a massiva produção de dados, gerados na comunicação e
entretenimento, Youtube, Facebook (Meta), ferramentas de busca (Google), Instagram,
WhatsApp etc, criando, por via de consequência, um massivo volume de dados (Big
Data), foi então possível potencializar os algoritmos.
Nesse contexto, os avanços da inteligência artificial nos
campos de aprendizado máquina (machine learning) e aprendizado profundo (deep learning),
proliferou de tal forma que passou a ser uma verdadeira “doença tecnológica,
muito especialmente porque eles tem a possibilidade de aprender ao cabo de cada
iteração que realizam e, levando-se em conta que eles não sofrem pressões humanas,
desapontamentos psicológicos, problemas emocionais ou conjugais e nem sentem
fadiga, seguramente, podem operar 24 horas por dia e sete dias por semana,
melhorando assim, de forma exponencial, a sua resposta de performance.
Como comentei em meu Blog: ...”em verdade, como explica
Molina, pesquisador de inteligência artificial aplicada da Universidade de São
Carlos II – Madri: “os algoritmos foram desenhados para resolver problemas
concretos, mas não para compreender o que está acontecendo ao seu redor, só
veem sinais e aplicam sempre a mesma solução. As máquinas são totalmente
autistas, e lhes dar uma compreensão de seu entorno é muito complicado” (op. cit.
Gonçalves, Blog - 2018).
Por exemplo, nos EUA, os juízes criminais têm como
“auxiliar”, um programa de inteligência artificial denominado COMPAS (Correction
Offender Management Profiling for Alternative Sanctions); um sistema de
gerenciamento do perfil dos infratores com objetivo de sugerir sanções
alternativas.
Esse sistema destina-se a avaliar o risco e a previsão de
criminalidade para os réus nas audiências prévias ao julgamento. O algoritmo de AI desse sistema
baseia-se na análise de 173 variáveis, com a finalidade de calcular a probabilidade
de reincidência criminal de cada indivíduo, numa escala de 1 a 10.
Considerando que a base de dados de aprendizado desses
algoritmos foi construída com informações recebidas do departamento de polícia,
as perguntas usadas na pesquisa inicial do COMPAS, acabavam construindo um viés
humano considerável!
O resultado da análise desse sistema, chegava a tal ponto de perpetuar
recomendações, inadvertidamente racistas, levando a que os negros recebam
atributos negativos com uma pontuação muito maior do que os meliantes brancos.
Outro caso clássico que também cito nos artigos referenciados,
aconteceu em 2017, quando a polícia de Israel acabou prendendo um trabalhador
palestino, que foi interrogado por diversas vezes, pelo simples fato de ter
postado uma foto no Facebook, ao lado de um trator com os dizeres: “bom dia” em
árabe.
Como o software de AI não tinha essa palavra em seu repertório,
ele a associou à palavra “atacar” em hebraico que é muito semelhante. Somente
após a descoberta do erro foi que esse palestino foi liberado!
Com bem descreve Weizenbaum do MIT (op. cit. Gonçalves, Blog -
2018): “nunca deveríamos deixar que os computadores tomassem decisões
importantes, porque nunca terão as qualidades humanas como a compaixão e a
sabedoria.”
O certo é que hoje, convivemos com máquinas que funcionam
como verdadeiros Big Brothers do George Orwell e mesmo, frequentemente somos tolhidos
por verdadeiros Ministérios da Verdade (Orwell e, sua obra 1984).
Assim, tal qual o mito de Prometeu, considerado um defensor
da humanidade, que ao roubar o fogo de Héstia e entregá-lo aos mortais (fornecimento
de tecnologia) levou a Zeus, temendo que os mortais ficassem tão poderosos
quanto os próprios deuses, a puni-lo, deixando-o amarrado a uma rocha
por toda a eternidade, enquanto uma grande águia comia todo dia seu fígado, que
se regenerava!
A hora é de uma grande reflexão!
“Liberdade, Liberdade abra as asas sobre nós!”
Nenhum comentário:
Postar um comentário