Algoritmos, mestres e senhores ?

BOM DIA, SENHOR ALGORITMO, MEU MESTRE E MEU SENHOR!

En un ser vivo hay innumerables procesos
 químicos y físicos "ordenados" de tal manera
 que permiten al sistema vivo persistir, 
crecer, desarrollarse, reproducirse, etc.
Ludwig-von-Bertalanffy

A nossa vida é permeada por algoritmos, embora na maioria das vezes, não nos damos conta disso.

Ao despertarmos, iniciamos uma série de atividades rotineiras que são, normalmente, cumpridas dentro de uma sequência lógica.

Algumas vezes, em decorrência de eventos extraordinários, fazemos uma rotina derivada, para realizar algo mais prioritário e que não estava definida na sequência programada, mas rapidamente retornamos a rotina normal. De uma forma mais abrangente, isso também é um algoritmo!

Do mesmo modo, ao deitarmos e iniciarmos o processo de sono, o nosso corpo, mediante processos bioquímicos, realiza uma série de atividades, como por exemplo, “rearranjo” das informações capturadas durante o dia, grosseiramente comparável ao uso de um programa de desfragmentação que utilizamos na otimização de microcomputadores. E isso também é um algoritmo.

A palavra algoritmos foi criada pelo persa, al-Khawarizmi; matemático, astrônomo, astrólogo, geógrafo; um erudito da Casa da Sabedoria em Bagdade. 

Buscando uma definição clássica, a Universidade de Oxford elaborou a seguinte descrição: “um algoritmo é um conjunto de regras ou instruções bem definidas para solução de um problema.”

Embora essa definição tenha um forte viés para a programação matemática, ela espelha de forma adequada, o objetivo final esperado para um algoritmos  destinado a resolução de um problema. Talvez aqui, o foco tenha sofrido uma considerável influência de Lord Kelvin, para o qual “qualquer informação que não pode ser expressa na forma de números, é de qualidade pobre e insatisfatória!”.

Os estudos da modelagem matemática com o uso de redes neurais, tiveram um grande impulso com Mcculloch (neuroanatomista e psiquiatra do MIT) e Pitts (matemático da Illinois University) com a construção de um modelo baseado na analogia de células nervosas e na neurocomputação.

Posteriormente Minsky e Papert construíram o primeiro neurocomputador que possuía uma rede neural artificial, denominada Perceptron (primeira rede neural artificial – Figura 2); revolucionando assim, os primórdios da inteligência artificial. Por um  tempo abandonada, voltando posteriormente de forma exuberante e hoje domina todos os campos, com aplicações das mais diversas.

Figura 2 – Primeira rede neural artificial e seus criadores.

Fonte: Elaborado pelo autor - base: Google Imagens (2018).

Paralelamente, com a massiva produção de dados, gerados na comunicação e entretenimento, foi então possível potencializar os algoritmos, em face de disporem de um elevado volume de dados, os quais, selecionados adequadamente, tem como objetivo mensurar tendências, comportamentos etc. Nesse sentido, proliferaram o uso intensivo de inteligência artificial, em todos os campos da vida humana.

Considerando que um algoritmo de inteligência artificial tem a possibilidade de aprender ao cabo de cada iteração que realiza e, levando-se em conta ele não sofre pressões humanas, desapontamentos psicológicos, problemas emocionais ou conjugais e nem sente fadiga, seguramente, pode operar 24 horas por dia e sete dias por semana, melhorando assim, de forma exponencial, a sua resposta de performance.

A construção de algoritmos, muito especialmente, com os avanços da inteligência artificial, aprendizado máquina e aprendizado profundo, proliferou de tal forma que passou a ser uma verdadeira “doença tecnológica”, tal qual um câncer que se alastra por todos os lados!

Por exemplo, o mercado financeiro é abarrotado deles! A maioria das operações desse mercado são realizadas por algoritmos. Já causaram diversos danos, quedas na bolsa etc.

Do mesmo modo, os robôs  são largamente utilizados nas operações financeiras e chegam a operar em flutuações de mercado a nível de nanosegundos. Por esse motivo, um grupo de investidores aplicou uma vasta soma para interligar sua central de operações à bolsa de Nova York, usando cabos de fibra ótica de altíssima velocidade. São do denominados Flash Boys, que se utilizam de diferenciais de preços momentâneos, negociando padrões estatísticos ou explorando vantagens de velocidade e, é claro, ganhando muito dinheiro como isso!

Entregar   a tomada de decisão à algoritmos é um elevado risco. Por exemplo, na Austrália, um estudo realizado por Putnins da Universidade de Sidney, associada a Barbara da ASIC (Australian Securities and Investments Commission) mostrou que, alguns algoritmos traders eram prejudiciais para um grupo de investidores, enquanto tinha uma performance diferenciada para outros!

Figura 3 – O mercado financeiro está tomado por algoritmos.
Fonte: Elaborado pelo autor - base: Google Imagens(2018)

Exemplos explodem por todos os lados, alguns deles, como armas de destruição, como caso de um dono de uma loja online que criou um algoritmo para produzir uma grande variedade de design de camisetas para suas lojas online, cujo projeto era baseado no slogan ““keep calm and carry on”.

Acontece que, usando o reportório de palavras que alimentavam esse algoritmo para criar as frases das camisetas, esse modelo matemático acabou produzindo frases infames, sendo que, algumas delas, chegavam a estimular práticas ilegais. O resultado foi o desaparecimento da empresa!

Outro exemplo é citado por O`Neill (2016) e envolvia o caso de um individuo que fora condenado por ter assaltado o caixa de um banco, nos Estados Unidos. Foi preso pelo FBI com base em um algoritmos de reconhecimento de face. Na apelação, seu advogado exigiu a presença do caixa que se encontrava no banco no dia do assalto. Para surpresa do magistrado, esse caixa informou que o nariz do assaltante era diferente do nariz do condenado, o que levou imediatamente a concessão de liberdade para o acusado!

Outro caso bem conhecido aconteceu com os algoritmos de precificação da Amazon, cuja falha foi descoberta, por acaso, por um blogueiro, ao verificar que um livro de biologia sobre as moscas alcançou a bagatela de U$ 23 milhões!

A posição de um livro no topo dos melhores, na Amazon, é construída por algoritmos de inteligência artificial. Tiscar (2018) mostra que um livro, para ser listado entre os 100 melhores da Amazon, o algoritmo considera, entre outras variáveis, o número de vezes que a página de um determinado livro é visualizada. De outra forma, o algoritmo assume que quanto mais uma página é visualizada, maior é a probabilidade de resultar em uma venda. Essa metodologia, é claro, fica sujeita a manipulações!

Algoritmos estão por todas as partes: sugerindo filmes e séries do Netflix, com base do seu perfil de usuário – a cada escolha que você faz, o algoritmo aprende suas preferências e então passa a sugerir novos filmes e/ou séries baseados nessa estrutura preferencial.

Em verdade, como explica Molina, pesquisador de inteligência artificial aplicada da Universidade de São Carlos II – Madri: “os algoritmos foram desenhados para resolver problemas concretos, mas não para compreender o que está acontecendo ao seu redor, só veem sinais e aplicam sempre a mesma solução. As máquinas são totalmente autistas, e lhes dar uma compreensão de seu entorno é muito complicado” (op. Cit. In Dominguez -2018).

Por exemplo, nos EUA, os juízes criminais têm como “auxiliar”, um programa de inteligência artificial denominado COMPAS (Correction Offender Management Profiling for Alternative Sanctions); um sistema de gerenciamento do perfil dos infratores com objetivo de sugerir sanções alternativas. Esse sistema destina-se a avaliar o risco e a previsão de criminalidade para os réus nas audiências prévias ao julgamento.

O algoritmo de AI desse sistema baseia-se na analise 173 variáveis, com a finalidade de calcular a probabilidade de reincidência criminal de cada indivíduo, numa escala de 1 a 10.

Considerando que a base de dados usada pelo algoritmo foi elaborada  através dos arquivos da polícia e as perguntas usadas na pesquisa inicial do COMPAS, possuírem um viés humano considerável, o resultado dessa análise chega a tal ponto de o sistema perpetuar recomendações, inadvertidamente racistas, levando a que os negros recebam atribuídos negativos com uma pontuação muito maior do que os meliantes brancos, como mostra a Figura 4.

Figura 4 – Resultado do algoritmo COMPAS.

Fonte: Faggella (2018).

Um outro caso bastante impactante aconteceu em 2017, conforme relata Jones (2018), mostrando como algoritmos de inteligência artificial podem ter vieses que acabam alimentando, cada vez mais, o preconceito humano. 

Esse fato aconteceu quando a polícia de Israel acabou prendendo um trabalhador palestino, que foi interrogado por diversas vezes, pelo simples fato de ele ter postado uma foto no Facebook, ao lado de um trator com os dizeres: “bom dia” em árabe. Como o software de AI não tinha essa palavra em seu reportório, ele a associou a palavra “atacar” em hebraico que é muito semelhante. Somente após a descoberta do erro foi que esse palestino foi liberado!

Em verdade, devemos seguir as recomendações de Weizenbaum do MIT (op. cit – Dominguez - 2018): “nunca deveríamos deixar que os computadores tomassem decisões importantes, porque nunca terão as qualidades humanas como a compaixão e a sabedoria.”

De um lado, em outras situações, esses algoritmos funcionam com verdadeiros patrões, com é o caso da plataforma da Uber, que comanda todas as operações dos motoristas a ela atrelados, considerando que essa plataforma utiliza algoritmos para supervisionar, administrar e controlar os motoristas, que são constantemente rastreados.

Por exemplo, desde o momento em que um motorista aceita uma corrida, o mesmo passa a ser controlado pelo algoritmo do sistema: a precificação já está estabelecida, assim como o trajeto definido pelo aplicativo Waze.

De outro lado, o ser humano sempre encontra brechas nesses sistemas e, por via de consequência, tende a burlá-los. Por exemplo, em Londres, os motoristas da Uber, para cobrar mais pelas corridas, considerando que o sistema de precificação dos algoritmos é dinâmico, e levando em conta variáveis como demanda por veículos, horas de pico etc.; esses motoristas ficam durante um tempo off-line, retornando ao sistema assim que os preços começam a ficar atrativos. 

Dentro desse processo, os motoristas londrinos acabam conspiram contra o algoritmo, em determinadas áreas, reduzindo a disponibilidade de veículos e, por via de consequência, elevando os preços das corridas.

Além disso, já existem aplicativos que permitem a troca entre os serviços, possibilitando que os motoristas analisem as condições da viagem (trajetos, preços etc.), mediante o monitoramento de diversas informações; permitindo assim a tomada de decisão e rejeitando aquelas corridas que não são tão lucrativas.

Outra questão tão importante quanto as citadas, envolve a cyber segurança, por exemplo, da infraestrutura básica; dado que a mesma hoje é controlada por complexos algoritmos. 

Imaginem a possibilidade de um hacker invadir esses sistemas e provocar danos consideráveis, como por exemplo, um black-out generalizado com reflexos dos mais diversos.

Vale lembrar do famoso stuxnet, um worm (programa de computador capaz de se propagar), que foi projetado especificamente para atacar o sistema operacional SCADA desenvolvido pela Siemens, utilizado no controle operacional das centrífugas de enriquecimento de urânio do Iran, provocando a sua total destruição !

Figura 5 – Esfinge de Tebas.

Fonte:  Elaborado pelo autor - base: (Google imagens (2018).

Ao final, caímos no velho desafio da esfinge de Tebas (figura 5): "Decifra-me ou te devoro"!

Fontes:

BBC – FUTURE in the bad things- hat happen when- lgorithms run online shops – disponível em : http://www.bbc.com/future/story/20150820-the-bad-things-that-happen-when-algorithms-run-online-shops – acesso: 19/11/2018.

O´NEILL,C. in Weapons of Math Destruction – New York Times Bestseller (2016).

NAVARONE, M.; PUTNINS, T. in The good, the bad, and the ugly of algorithmic trading – disponível em : https://phys.org/news/2016-11-good-bad-ugly-algorithmic.html. – acesso: 19/11/2018.

LEWIS, M. in Flash boys - A revolta de Wall Street - ‎W. W. Norton & Company (2014).

 TISCAR, C. in El algoritmo de Amazon disponível em: http://claratiscar.com/el-algoritmo-de-amazon/  acesso: 19/11/2018.

SAMAI, A.T – in Verdades e mentiras sobre o algoritmo da Amazon – disponível em: http://www.comopublicarebooksnaamazon.com/2016/06/verdades-e-mentiras-sobre-o-algoritmo-da-amazon/

DOMINGUEZ, N. in – Estupidez artificial: o problema que ninguém anteviu – El Mundo – Tecnologia – 18 de novembro de 2018.

COSSINS, D. in Discriminating algorithms: 5 times AI showed prejudice – disponível em https://www.newscientist.com/article/2166207-discriminating-algorithms-5-times-ai-showed-prejudice/ - acesso: 22/11/2018.

FAGGELLA, D. in AI for Crime Prevention and Detection – Current Applications – disponível em : https://www.techemergence.com/ai-crime-prevention-5-current-applications/ - acesso: 22/11/2018.

JONES, H. in Artificial Intelligence Needs To Reset – disponível em: https://www.forbes.com/sites/cognitiveworld/2018/10/12/artificial-intelligence-needs-to-reset/#5f2cce8e386e – acesso: 22/11/2018.

FIGAR, in Creative Destruction — What Came Before, What’s Coming Next – disponível em: https://cognitiveworld.com/article/competing-future-intelligent-agents-and-confession - acesso: 22/11/2018.

OLHAR DIGITAL in Uber passa a usar algoritmo de inteligência artificial para proteger motoristas – disponível em : https://olhardigital.com.br/fique_seguro/noticia/uber-passa-a-usar-algoritmo-de-inteligencia-artificial-para-proteger-motoristas/75410 - acesso: 23/11/2018.

JORNAL EXTRA – Motoristas da Uber se  juntam para burlar o algoritmo e aumentar o preços das corridas - disponível em :https://extra.globo.com/noticias/economia/motoristas-da-uber-se-juntam-para-burlar-algoritmo-aumentar-precos-das-corridas-21665464.html – acesso: 23/11/2018.

THE ECONOMIST – Tecnologias e renascimento dos sindicatos – Estadão 25/11/2018.

MARR, B. in Is Artificial Intelligence Dangerous? 6 AI Risks Everyone Should Know About – Forbes – 19/11/2018.

ROHR, R. in Virus que atrasou o programa nuclear do irã foi criado pelos EUA e por Israel
disponível em http://g1.globo.com/tecnologia/noticia/2011/01/virus-stuxnet-foi-criado-pelos-eua-e-por-israel-diz-jornal.html - acesso: 26/11/2018.