Algoritmos, mestres e senhores ?

BOM DIA, SENHOR ALGORITMO, MEU MESTRE E MEU SENHOR!

En un ser vivo hay innumerables procesos
 químicos y físicos "ordenados" de tal manera
 que permiten al sistema vivo persistir, 
crecer, desarrollarse, reproducirse, etc.
Ludwig-von-Bertalanffy

A nossa vida é permeada por algoritmos, embora na maioria das vezes, não nos damos conta disso.

Ao despertarmos, iniciamos uma série de atividades rotineiras que são, normalmente, cumpridas dentro de uma sequência lógica.

Algumas vezes, em decorrência de eventos extraordinários, fazemos uma rotina derivada, para realizar algo mais prioritário e que não estava definida na sequência programada, mas rapidamente retornamos a rotina normal. De uma forma mais abrangente, isso também é um algoritmo!

Do mesmo modo, ao deitarmos e iniciarmos o processo de sono, o nosso corpo, mediante processos bioquímicos, realiza uma série de atividades, como por exemplo, “rearranjo” das informações capturadas durante o dia, grosseiramente comparável ao uso de um programa de desfragmentação que utilizamos na otimização de microcomputadores. E isso também é um algoritmo.

A palavra algoritmos foi criada pelo persa, al-Khawarizmi; matemático, astrônomo, astrólogo, geógrafo; um erudito da Casa da Sabedoria em Bagdade. 

Buscando uma definição clássica, a Universidade de Oxford elaborou a seguinte descrição: “um algoritmo é um conjunto de regras ou instruções bem definidas para solução de um problema.”

Embora essa definição tenha um forte viés para a programação matemática, ela espelha de forma adequada, o objetivo final esperado para um algoritmos  destinado a resolução de um problema. Talvez aqui, o foco tenha sofrido uma considerável influência de Lord Kelvin, para o qual “qualquer informação que não pode ser expressa na forma de números, é de qualidade pobre e insatisfatória!”.

Os estudos da modelagem matemática com o uso de redes neurais, tiveram um grande impulso com Mcculloch (neuroanatomista e psiquiatra do MIT) e Pitts (matemático da Illinois University) com a construção de um modelo baseado na analogia de células nervosas e na neurocomputação.

Posteriormente Minsky e Papert construíram o primeiro neurocomputador que possuía uma rede neural artificial, denominada Perceptron (primeira rede neural artificial – Figura 2); revolucionando assim, os primórdios da inteligência artificial. Por um  tempo abandonada, voltando posteriormente de forma exuberante e hoje domina todos os campos, com aplicações das mais diversas.

Figura 2 – Primeira rede neural artificial e seus criadores.

Fonte: Elaborado pelo autor - base: Google Imagens (2018).

Paralelamente, com a massiva produção de dados, gerados na comunicação e entretenimento, foi então possível potencializar os algoritmos, em face de disporem de um elevado volume de dados, os quais, selecionados adequadamente, tem como objetivo mensurar tendências, comportamentos etc. Nesse sentido, proliferaram o uso intensivo de inteligência artificial, em todos os campos da vida humana.

Considerando que um algoritmo de inteligência artificial tem a possibilidade de aprender ao cabo de cada iteração que realiza e, levando-se em conta ele não sofre pressões humanas, desapontamentos psicológicos, problemas emocionais ou conjugais e nem sente fadiga, seguramente, pode operar 24 horas por dia e sete dias por semana, melhorando assim, de forma exponencial, a sua resposta de performance.

A construção de algoritmos, muito especialmente, com os avanços da inteligência artificial, aprendizado máquina e aprendizado profundo, proliferou de tal forma que passou a ser uma verdadeira “doença tecnológica”, tal qual um câncer que se alastra por todos os lados!

Por exemplo, o mercado financeiro é abarrotado deles! A maioria das operações desse mercado são realizadas por algoritmos. Já causaram diversos danos, quedas na bolsa etc.

Do mesmo modo, os robôs  são largamente utilizados nas operações financeiras e chegam a operar em flutuações de mercado a nível de nanosegundos. Por esse motivo, um grupo de investidores aplicou uma vasta soma para interligar sua central de operações à bolsa de Nova York, usando cabos de fibra ótica de altíssima velocidade. São do denominados Flash Boys, que se utilizam de diferenciais de preços momentâneos, negociando padrões estatísticos ou explorando vantagens de velocidade e, é claro, ganhando muito dinheiro como isso!

Entregar   a tomada de decisão à algoritmos é um elevado risco. Por exemplo, na Austrália, um estudo realizado por Putnins da Universidade de Sidney, associada a Barbara da ASIC (Australian Securities and Investments Commission) mostrou que, alguns algoritmos traders eram prejudiciais para um grupo de investidores, enquanto tinha uma performance diferenciada para outros!

Figura 3 – O mercado financeiro está tomado por algoritmos.
Fonte: Elaborado pelo autor - base: Google Imagens(2018)

Exemplos explodem por todos os lados, alguns deles, como armas de destruição, como caso de um dono de uma loja online que criou um algoritmo para produzir uma grande variedade de design de camisetas para suas lojas online, cujo projeto era baseado no slogan ““keep calm and carry on”.

Acontece que, usando o reportório de palavras que alimentavam esse algoritmo para criar as frases das camisetas, esse modelo matemático acabou produzindo frases infames, sendo que, algumas delas, chegavam a estimular práticas ilegais. O resultado foi o desaparecimento da empresa!

Outro exemplo é citado por O`Neill (2016) e envolvia o caso de um individuo que fora condenado por ter assaltado o caixa de um banco, nos Estados Unidos. Foi preso pelo FBI com base em um algoritmos de reconhecimento de face. Na apelação, seu advogado exigiu a presença do caixa que se encontrava no banco no dia do assalto. Para surpresa do magistrado, esse caixa informou que o nariz do assaltante era diferente do nariz do condenado, o que levou imediatamente a concessão de liberdade para o acusado!

Outro caso bem conhecido aconteceu com os algoritmos de precificação da Amazon, cuja falha foi descoberta, por acaso, por um blogueiro, ao verificar que um livro de biologia sobre as moscas alcançou a bagatela de U$ 23 milhões!

A posição de um livro no topo dos melhores, na Amazon, é construída por algoritmos de inteligência artificial. Tiscar (2018) mostra que um livro, para ser listado entre os 100 melhores da Amazon, o algoritmo considera, entre outras variáveis, o número de vezes que a página de um determinado livro é visualizada. De outra forma, o algoritmo assume que quanto mais uma página é visualizada, maior é a probabilidade de resultar em uma venda. Essa metodologia, é claro, fica sujeita a manipulações!

Algoritmos estão por todas as partes: sugerindo filmes e séries do Netflix, com base do seu perfil de usuário – a cada escolha que você faz, o algoritmo aprende suas preferências e então passa a sugerir novos filmes e/ou séries baseados nessa estrutura preferencial.

Em verdade, como explica Molina, pesquisador de inteligência artificial aplicada da Universidade de São Carlos II – Madri: “os algoritmos foram desenhados para resolver problemas concretos, mas não para compreender o que está acontecendo ao seu redor, só veem sinais e aplicam sempre a mesma solução. As máquinas são totalmente autistas, e lhes dar uma compreensão de seu entorno é muito complicado” (op. Cit. In Dominguez -2018).

Por exemplo, nos EUA, os juízes criminais têm como “auxiliar”, um programa de inteligência artificial denominado COMPAS (Correction Offender Management Profiling for Alternative Sanctions); um sistema de gerenciamento do perfil dos infratores com objetivo de sugerir sanções alternativas. Esse sistema destina-se a avaliar o risco e a previsão de criminalidade para os réus nas audiências prévias ao julgamento.

O algoritmo de AI desse sistema baseia-se na analise 173 variáveis, com a finalidade de calcular a probabilidade de reincidência criminal de cada indivíduo, numa escala de 1 a 10.

Considerando que a base de dados usada pelo algoritmo foi elaborada  através dos arquivos da polícia e as perguntas usadas na pesquisa inicial do COMPAS, possuírem um viés humano considerável, o resultado dessa análise chega a tal ponto de o sistema perpetuar recomendações, inadvertidamente racistas, levando a que os negros recebam atribuídos negativos com uma pontuação muito maior do que os meliantes brancos, como mostra a Figura 4.

Figura 4 – Resultado do algoritmo COMPAS.

Fonte: Faggella (2018).

Um outro caso bastante impactante aconteceu em 2017, conforme relata Jones (2018), mostrando como algoritmos de inteligência artificial podem ter vieses que acabam alimentando, cada vez mais, o preconceito humano. 

Esse fato aconteceu quando a polícia de Israel acabou prendendo um trabalhador palestino, que foi interrogado por diversas vezes, pelo simples fato de ele ter postado uma foto no Facebook, ao lado de um trator com os dizeres: “bom dia” em árabe. Como o software de AI não tinha essa palavra em seu reportório, ele a associou a palavra “atacar” em hebraico que é muito semelhante. Somente após a descoberta do erro foi que esse palestino foi liberado!

Em verdade, devemos seguir as recomendações de Weizenbaum do MIT (op. cit – Dominguez - 2018): “nunca deveríamos deixar que os computadores tomassem decisões importantes, porque nunca terão as qualidades humanas como a compaixão e a sabedoria.”

De um lado, em outras situações, esses algoritmos funcionam com verdadeiros patrões, com é o caso da plataforma da Uber, que comanda todas as operações dos motoristas a ela atrelados, considerando que essa plataforma utiliza algoritmos para supervisionar, administrar e controlar os motoristas, que são constantemente rastreados.

Por exemplo, desde o momento em que um motorista aceita uma corrida, o mesmo passa a ser controlado pelo algoritmo do sistema: a precificação já está estabelecida, assim como o trajeto definido pelo aplicativo Waze.

De outro lado, o ser humano sempre encontra brechas nesses sistemas e, por via de consequência, tende a burlá-los. Por exemplo, em Londres, os motoristas da Uber, para cobrar mais pelas corridas, considerando que o sistema de precificação dos algoritmos é dinâmico, e levando em conta variáveis como demanda por veículos, horas de pico etc.; esses motoristas ficam durante um tempo off-line, retornando ao sistema assim que os preços começam a ficar atrativos. 

Dentro desse processo, os motoristas londrinos acabam conspiram contra o algoritmo, em determinadas áreas, reduzindo a disponibilidade de veículos e, por via de consequência, elevando os preços das corridas.

Além disso, já existem aplicativos que permitem a troca entre os serviços, possibilitando que os motoristas analisem as condições da viagem (trajetos, preços etc.), mediante o monitoramento de diversas informações; permitindo assim a tomada de decisão e rejeitando aquelas corridas que não são tão lucrativas.

Outra questão tão importante quanto as citadas, envolve a cyber segurança, por exemplo, da infraestrutura básica; dado que a mesma hoje é controlada por complexos algoritmos. 

Imaginem a possibilidade de um hacker invadir esses sistemas e provocar danos consideráveis, como por exemplo, um black-out generalizado com reflexos dos mais diversos.

Vale lembrar do famoso stuxnet, um worm (programa de computador capaz de se propagar), que foi projetado especificamente para atacar o sistema operacional SCADA desenvolvido pela Siemens, utilizado no controle operacional das centrífugas de enriquecimento de urânio do Iran, provocando a sua total destruição !

Figura 5 – Esfinge de Tebas.

Fonte:  Elaborado pelo autor - base: (Google imagens (2018).

Ao final, caímos no velho desafio da esfinge de Tebas (figura 5): "Decifra-me ou te devoro"!

Fontes:

BBC – FUTURE in the bad things- hat happen when- lgorithms run online shops – disponível em : http://www.bbc.com/future/story/20150820-the-bad-things-that-happen-when-algorithms-run-online-shops – acesso: 19/11/2018.

O´NEILL,C. in Weapons of Math Destruction – New York Times Bestseller (2016).

NAVARONE, M.; PUTNINS, T. in The good, the bad, and the ugly of algorithmic trading – disponível em : https://phys.org/news/2016-11-good-bad-ugly-algorithmic.html. – acesso: 19/11/2018.

LEWIS, M. in Flash boys - A revolta de Wall Street - ‎W. W. Norton & Company (2014).

 TISCAR, C. in El algoritmo de Amazon disponível em: http://claratiscar.com/el-algoritmo-de-amazon/  acesso: 19/11/2018.

SAMAI, A.T – in Verdades e mentiras sobre o algoritmo da Amazon – disponível em: http://www.comopublicarebooksnaamazon.com/2016/06/verdades-e-mentiras-sobre-o-algoritmo-da-amazon/

DOMINGUEZ, N. in – Estupidez artificial: o problema que ninguém anteviu – El Mundo – Tecnologia – 18 de novembro de 2018.

COSSINS, D. in Discriminating algorithms: 5 times AI showed prejudice – disponível em https://www.newscientist.com/article/2166207-discriminating-algorithms-5-times-ai-showed-prejudice/ - acesso: 22/11/2018.

FAGGELLA, D. in AI for Crime Prevention and Detection – Current Applications – disponível em : https://www.techemergence.com/ai-crime-prevention-5-current-applications/ - acesso: 22/11/2018.

JONES, H. in Artificial Intelligence Needs To Reset – disponível em: https://www.forbes.com/sites/cognitiveworld/2018/10/12/artificial-intelligence-needs-to-reset/#5f2cce8e386e – acesso: 22/11/2018.

FIGAR, in Creative Destruction — What Came Before, What’s Coming Next – disponível em: https://cognitiveworld.com/article/competing-future-intelligent-agents-and-confession - acesso: 22/11/2018.

OLHAR DIGITAL in Uber passa a usar algoritmo de inteligência artificial para proteger motoristas – disponível em : https://olhardigital.com.br/fique_seguro/noticia/uber-passa-a-usar-algoritmo-de-inteligencia-artificial-para-proteger-motoristas/75410 - acesso: 23/11/2018.

JORNAL EXTRA – Motoristas da Uber se  juntam para burlar o algoritmo e aumentar o preços das corridas - disponível em :https://extra.globo.com/noticias/economia/motoristas-da-uber-se-juntam-para-burlar-algoritmo-aumentar-precos-das-corridas-21665464.html – acesso: 23/11/2018.

THE ECONOMIST – Tecnologias e renascimento dos sindicatos – Estadão 25/11/2018.

MARR, B. in Is Artificial Intelligence Dangerous? 6 AI Risks Everyone Should Know About – Forbes – 19/11/2018.

ROHR, R. in Virus que atrasou o programa nuclear do irã foi criado pelos EUA e por Israel
disponível em http://g1.globo.com/tecnologia/noticia/2011/01/virus-stuxnet-foi-criado-pelos-eua-e-por-israel-diz-jornal.html - acesso: 26/11/2018.

O dilema da máquinas autônomas.

O DILEMA DAS MÁQUINAS AUTÔNOMAS NA TOMADA

DE DECISÕES

“Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal”

1ª. Lei da Robótica

Isaac Asimov.

A inteligência artificial aplicada está avançando em todos os ambientes, permeando-os com sofisticados sistemas baseados em redes neurais e e complexos algoritmos que, gradativamente, começam a interagir com o ambiente executando tarefas e tomando decisões.

Os exemplos clássicos e mais impactantes sobre o aspecto financeiros são os robôs que hoje praticamente comandam o mercado financeiro e, nesse sentido, apesar da sofisticação algorítmica de suas expertises, rombos bilionários acontecem e milionários se formam, como bem relata Lewis (2014) e Petterson (2012).

A denominada quarta revolução industrial que vem tomando corpo em função dos investimentos que estão sendo realizados em inovação tecnológica, big data e robótica, vem proporcionando um alto grau de automação de processos e critérios de tomada de decisão.

Segundo estudos realizados pela Mckinsey (2018), através de pesquisa em 400 casos em 19 segmentos empresariais, o potencial de aplicações em análise de dados e inteligência artificial oscilam numa faixa entre US$ 9.15 trilhões à 15.4 trilhões !

De um lado, a Toyota AI Venture, empresa sediada no Vale do Silício, abriu espaço para starups em todo o mundo, voltadas para a mobilidade, dados e robótica autônoma, disponibilizando um capital inicial de US$ 100 milhões, para o desenvolvimento de projetos nas citadas áreas. Uma das empresas beneficiadas com investimentos é a Boxbot que se dedica a construção de robôs para entregas autônomas.

Do mesmo modo, investiu US$ 1.0 Bilhões na pesquisa e desenvolvimento de carros autônomos e inteligência artificial, focando seus planos em uso de energias alternativas para a locomoção de novos veículos.

De outro, o uso das tecnologias de aprendizado profundo (deep learning) vem sendo implementada com grande ênfase, aproveitando as imagens disponíveis na internet, com a finalidade de que as máquinas autônomas aprendam e acabem por ter uma visão à mais próxima possível da visão humana; assim como melhorar o aprendizado dos diversos sistemas de inteligência artificial.

Por exemplo, o robô T-HR3 (Figura 2) é um humanoide capaz de espelhar inúmeros movimentos de usuários humanos.

Figura 2 – Robô  T-HR3 da Toyota.

Fonte: Google Imagens (2018).

Outros exemplos já bastante conhecidos por todos, são os denominados Chabot (programa de computador com inteligência artificial embarcada que simula ser um humano, quando “conversa” com um ser humano). São os chamados de assistente virtuais, entre eles, a Bia utilizado por uma rede de agencia de um banco de varejo, que chega a realizar 4,5 mil interações por dia!

Uma abordagem bem interessante e relativa aos algoritmos de inteligência artificial é descrita por O'Neil (2016), a qual discute como os grandes volumes de dados, quando manipulados de forma indevida, aumentam a desigualdade e ameaçam a democracia. A programação destorcida ou enviesada desses algoritmos poderá implicar em certos vieses excludentes, com graves consequências.

Essa autora mostra que muitos algoritmos são tendenciosos e prejudicam consideravelmente as análises realizadas, muito especialmente porque a tendência é acreditar cegamente na potencialidade desses algoritmos que são elaborados por pessoas e, por via de consequência, sujeitos à falhas e tendências! Ela traça um perfil argumentativo de que esses modelos acabam prejudicando os menos favorecidos, ao mesmo tempo que torna a vida dos mais afortunados bem mais confortável e cita inúmeros casos na sua obra.

A partir do momento em que máquinas autônomas começam a tomar decisões, as preocupações aumentam consideravelmente, muito especialmente em função dos possíveis danos que as mesmas podem causar, tanto físicos como psicológicos. Daí a preocupação com a questão relacionada ao comportamento dessas máquinas, em função de suas condutas, de tal ordem que sejam impedidas de causar danos aos seres humanos e outros seres vivos.

Um dos casos bem emblemáticos aconteceu com um chatbot  criado pela Microsoft, denominado de Tay, criado para interagir com jovens na faixa etária de 18 a 24 anos.

Esse software de AI, aparentemente inocente, acabou tornando-se agressivo e preconceituoso em função do aprendizado máquina a que foi submetido. Vale registrar que muitos analistas acreditam que esse viés agressivo foi fruto de ataques de hackers que desvirtuaram o seu “treinamento” !

Antes porém de tratarmos das máquinas autônomas e suas decisões, principal objetivo desse texto, consideremos o dilema que sofre um operador de um drone, também conhecido por “18X” (Figura 3), sentado numa sala, distante do teatro de operações, frente à telas de alta resolução e operando um joystick, toma decisões que resultam na morte de indivíduos, previamente escolhidos de acordo como critérios fixados pela inteligência americana, indicando que esse indivíduo é uma ameaça terrorista em potencial.

Sem qualquer possibilidade de julgamento prévio, ou mesmo ter a possibilidade de defesa das acusações a ele imputadas, esse indivíduo é sumariamente executado; e a reboque dele, vários outros indivíduos, muitos civis inocentes, também acabam sendo aniquilados, no que setor militar denomina sordidamente de “efeito colateral”!

E muitas situações ocorrem danos colaterais sérios, entre eles, aquele relatado por  Scahill (2014), situação na qual Obama autorizou a morte de um insurgente que se encontrava em uma pequena aldeia, cujo efeito colateral foi a morte de 47 civis, dentre eles várias mulheres grávidas. O lado hipócrita dessa história, descrita na citada obra é que, o próprio Obama, praticamente no mesmo horário, recebia o prêmio Nobel da paz!

Figura 3 - Drone Predador e Central de Controle.

Fonte: Google Imagens (2018).

A dramática situação de elevado estresse a que esses pilotos 18X são submetidos leva, invariavelmente, a pedidos de demissão. Em de 2015, logo não é novo, Chartterjee e Dispach, já relatavam que o conflito psicológico desses pilotos levou à demissão em massa, acarretando, por via de consequência, uma grande carência de novos pilotos.

O leitor interessado, na vivência desse drama dos pilotos de drones, recomendamos assistir a película dirigida por Gavin Hood, o mesmo diretor de “Infância Roubada” que leva o título em português de Decisão de Risco, cujo trailer poderá ser visualizado através do link que se encontra no subtítulo da Figura 4; cuja película encontra-se disponível no Netflix.

Figura 4 – Cenas do filme Decisão de Risco.

Fonte: Paris Filmes – via Google Imagens

https://www.youtube.com/watch?v=pHnHN2w_k3E

Examinando o teatro de operações com total suporte de inteligência artificlal e alta tecnologia embarcada em diversos equipamentos e que acabam tomando decisões com base em julgamentos construídos por algoritmos dos quais, os próprios projetistas não sabem exatamente como essa decisão é tomada, em função do elevado volume de aprendizado a que é submetido, a preocupação envolve temas conflituosos em saber, qual o nível autonomia que daremos a essas máquinas, dado os riscos que apresentam!

A questão básica aqui é a seguinte: um robô ou um veículo autônomo deparando-se com uma situação conflituosa, por exemplo, entre atropelar o animal e causar danos ao passageiro do veículo ou atropelar e mesmo causar a morte de um transeunte que se encontra, mas proximidades, como deverá agir?

Diante desse verdadeiro dilema moral, o ser humano age por intuição e toma uma decisão que lhe apresente melhor, tanto no que diz respeito ao dano causado, quando aos aspectos morais e que se encontra submetido.

Os exemplos mais contundentes surgiram a partir do momento em que os carros autônomos começaram a trafegar nas ruas, após um longo período de “encubação laboratorial”.  O entusiasmo inicial que alavancou a presença de outras empresas nesse campo, sofreu um grande revés no momento em que alguns desses veículos acabaram envolvidos em acidentes. O primeiro correu em 2016, quando o veículo bateu em um caminhão e em 23 de maio deste ano, um outro veículo da Tesla acabou batendo contra a mureta de uma rodovia localizada em Mountain View, na Califórnia (EUA), causando a morte do motorista.

Figura 5 - Carros autônomos e sistema de identificação.

Fonte: Google Imagens (2018).

Diante desse quadro, os especialistas vem se debruçando sobre o tema e, nesse sentido, o MIT criou uma  plataforma denominada Moral Machine ( http://moralmachine.mit.edu/) na qual, qualquer usuário é submetido a situações adversas e deverá tomar uma decisão.

O objetivo é criar uma espécie de “consenso moral” e assim permitir que os cientistas e engenheiros de softwares possam elaborar modelos matemáticos de tomada de decisão baseados no consenso resultante dessa enquete.

Figura 6 – Carros autônomos – O dilema moral.

Fonte: Google Imagens (2018)

Qualquer pessoa poderá fazer esse “experimento” bastando para isso, entrar no site do link acima indicado e responder a uma bateria de situações criadas que irá inserir o agente diante de diversos eventos e nessa posição situacional de eventos, deverá tomar uma decisão.

As estatísticas recentes elaboradas pelo MIT para essa plataforma, que opera aberta para qualquer participante do planeta, resultam, até agora, em 40 milhões de “experimentos”.

Os resultados preliminares já apresentam algumas diretrizes que poderão auxiliar as equipes de projetistas a resolverem as chamadas “questões morais” que essas máquinas autônomas enfrentaram.

Dentre eles, há um consenso de que:

Preferência por salvar pessoa a animais;

Preferência por salvar um maior número de pessoas possível;

Preferência por salvas jovem em detrimento a salvar idosos.

Além das questões relacionadas à segurança da vida humana ou dos demais seres vivos, assim como eventuais danos ao patrimônio de terceiros, há questões jurídicas impositivas e relacionadas a responsabilidade pelos danos causados!

Esse é o grande dilema moral que se avizinha, na medida em que, as máquinas embarcadas com sofisticadas tecnologias operando com inteligência artificial, vem avançando consideravelmente em todos os campos da vida humana.

Além dos problemas relacionados à tomada de decisão em situação de alto risco, como aqueles exemplos de situações criadas pelo modelo do MIT (Moral Machine), não poderemos esquecer os aspectos jurídicos decorrentes, no que se refere às responsabilidades civis e criminais resultantes dessa “escolha” autônoma.

A pergunta que surge aqui é: quem deverá ser responsabilizado? O projetista do programa de inteligência artificial que sofre alterações continuamente em função do seu próprio aprendizado? (Vale ressaltar que muitos projetistas acabam não sabendo exatamente em que resultará a programação final, dado que, mediante as interações que ocorrem, o sistema acaba aprendendo cada vez mais, embora esse aprendizado possa ter um viés direcionado para determinados enfoques) ou o responsável a ser imputado é propriedade do sistema ou da máquina? Ou a responsabilidade será solidária?

Juristas, em todo o mundo já andam debruçados com esses cenários e os estudos mais avançados nesse âmbito estão relacionados a União Europeia e Estados Unidos; valendo registrar o excelente artigo de Pires e Silva (2017), publicado na Revista Brasileira de Políticas Públicas.

A situação começa a ficar ainda mais complicada! 

Vejamos o exemplo recente do Echo- assistente pessoal da Amazon – Figura 7. A promotoria do estado de New Hampshire (EUA) está querendo utilizar esse equipamento como “testemunha” em um caso de assassinato, visto que o equipamento se encontrava na cozinha do local aonde o crime aconteceu e deve ter capturado o áudio da ação do assassino!

Figura 7 – Echo- Assistente pessoal da Amazon.

Fonte: Google Imagens – 2018 (Amazon).

Em verdade, o futuro está chegando muito rapidamente e essas questões tendem a se avolumar consideravelmente e sobre elas, teremos que nos debruçar  para que possamos encontrar soluções para essa gama de situações que surgirão.

O grande dilema final será: seremos condutores da inteligência artificial ou seremos conduzidos por ela?

Fonte:

M.I.T – Moral Machine – disponível em http://moralmachine.mit.edu/ - acesso: 28/10/2018.

AWAD, E.; DSOUZA, S.,; KIM, R.; SCHULZ, J.; HENRICH, J.; SHARIFF, A.; BONNEFON, J.F.; RAHWAN, I, - in The Moral Machine Experiment – disponível em : https://www.nature.com/articles/s41586-018-0637-6 - acesso> 28/10/2018.

SATINO, R – in  Quem um carro autônomo deve matar ou salvar em um acidente? Faça o teste -   disponível em : https://olhardigital.com.br/noticia/quem-um-carro-autonomo-deve-matar-ou-salvar-em-um-acidente-faca-o-teste/66113 - acesso: 28/10/2018.

COSMOS in “Moral Machine” reveals deep split in autonomous car ethics – disponível em: https://cosmosmagazine.com/technology/moral-machine-reveals-deep-split-in-autonomous-car-ethics - acesso: 28/10/2018.

WHATIS.com – in Moral Machine - https://whatis.techtarget.com/definition/Moral-Machine - acesso: 28/10/2018.

HOQUE, F. IN The case of humanities in the era of AI, automation and tecnhology – disponível em  https://www.fastcompany.com/90236240/the-case-for-humanities-in-the-era-of-ai-automation-and-technology - acesso: 28/10/2018.

ALECRIN. E. in Carro autônomo da Google sofre acidente, mas o erro foi humano – disponível em: https://tecnoblog.net/242028/acidente-carro-autonomo-waymo/ acesso: 28/10/2018.

KAUFMAN, D. in A ética e a inteligência artificial – Valor Econômico 21/12/2017 – disponível em https://www.valor.com.br/cultura/5235167/etica-e-inteligencia-artificial - aceso: 30/10/2018.

VIANA, L – in A inteligência Artificial e o dilema moral – disponível em:  http://www.multconnect.com.br/pt-br/publicacoes/Paginas/a-inteligencia-artificial-e-o-dilema-moral.aspx - acesso: 30/10/2018.

 CHARTTERJEE, P. DISPACH T in Traumatizados, pilotos de drones no EUA pedem demissão em massa – disponível em: https://www.pragmatismopolitico.com.br/2015/03/traumatizados-pilotos-de-drones-dos-eua-pedem-demissao-em-massa.html

PETTERSON, S – Mentes Brilhantes, Rombos bilionários – Ed. Best Business (2012).

LEWIS, M, - Flashboys – A revolta em Wall Street – Editora Intrínseca (2014).

O´NEILL,C. in Weapons of Math Destruction – New York Times Bestseller (2016).

SCAHILL, J- Guerras Sujas – O mundo é um campo de batalha = Cia das letras (2014).

ROBERTO, E.; CAMARA. In Danos causados por carros autônomos. – disponível em : hppts://www.jota.info/opinião-e-analise/artigos/danos-causados-por-carros-autonomos-06042018.

SILVA, L.M. – A responsabilidade civil por acidentes de carros autônomos: uma análise sob a ótica das smart cities – Revista do TRF1 – Brasilia v.29 n° 7/8 jul/aago.2017 – pags. 45/52.

PIRES, T.C.F; e DA SILVA, R.P. – A responsabilidade civil pelos atos autônomos da inteligência artificial – Revista Brasileira de Política Públicas – Volume 7 8 n° 3 – Dez -2017. Pag. 239/254.

MARR, B. in The amazing ways Toyota in using artificial intellegence, big data & robots – Forbes – 09/11/2018 – disponível em https://forbes.com.

MCKINSEY – in The executive`s AI playbook – McKinsey Insight (2018).

OLHAR DIGITAL – in Assistente pessoal da Amazon se´ra “testemunha” em um caso de assassinato – www.olhardigital.com.br – 12/11/2018.

O Futuro é Hoje - Uma visão.

O FUTURO É HOJE – Uma visão.

O futuro tem muitos nomes.

Para os fracos é o inalcançável.

Para os temerosos, o desconhecido.

Para os valentes é a oportunidade.

Victor Hugo

A revolução tecnológica que vem ocorrendo nessa década é impressionante!

Os avanços das tecnologias de automação, robótica e inteligência artificial, estão confirmando as previsões dos velhos livros de ficção cientifica!

De um lado, a massiva produção de dados gerados, muito especialmente, em função das interações criadas devidos ao elevado fluxo de troca de mensagens através de aplicativos como WhatsApp, Instagram e demais mídias sociais, permite obter um valioso arsenal transformado em um depositário de dados, através dos denominados Big Data (Figura 2).

Figura 2 – Big Data.

Fonte: Google Imagens (2018).

De outro lado, sofisticados algoritmos matemáticos vasculham esses dados traduzindo-os em valiosas informações que acabam construindo o perfil de cada cidadão, suas preferencias, em todas as suas facetas, assim como são capazes de antecipadamente, determinar tendências de hábitos e de consumo, ou mesmo, prospectivamente, atitudes comportamentais.

Apenas para registro, psicólogos desenvolveram, com apoio de especialistas em elaboração de algoritmos e inteligência artificial, um algoritmo capaz de identificar tendência suicidas em usuários das redes sociais, simplesmente analisando suas postagens e manifestações.

Sob a ótica da automação, a robótica aliada a inteligência artificial acelerou seu ˆaprendizadoˆ, unindo tecnologias como learning machine (aprendizado máquina - aprendizado máquina refere-se a uma tecnologia que permite que um dispositivo realize uma tarefa sem qualquer intervenção humana) e deep learning (aprendizado profundo - procedimento que é usado para implementar o aprendizado de máquina), apoiada por sofisticados algoritmos baseados em redes neurais que procuram reproduzir o fluxo neural do cérebro humano, como mostra a Figura 3.

Figura 3 – Machine Learning e Deep Learning.

Fonte: Xenonstack op.cit. in Kumar.

Vale registrar um caso bastante intrigante e desafiador, produzido pelo engenheiro biomédico Thomas DeMarse, da Universidade da Flórida - EUA. 

Mediante a extração, com o uso de enzimas, de neurônios do cortex de embriões de ratos, esse engenheiro colocou essas células em uma placa Petri (recipiente cilíndrico, achatado de vidrou ou plástico utilizado na cultura de micro-organismos em laboratório), produzindo assim, uma "sopa de neurônios". O resultado foi que essa "sopa" criou interconexões neurais que transformaram essas células em um "dispositivo de computação vivo" , o qual foi utilizado em um simulador de voo, para controlar o voo de um jato F-22; tarefa essa realizada com grande sucesso ! 

Outras experiências não menos fantásticas foram realizadas pela equipe liderada pelo neurocientista brasileiro, Miguel Nicolelis; entre elas, o implante de eletrodos no cérebro de três macacos rhesus com objetivo de capturar os sinais dos neurônios da área motora do cérebro dos macacos para que realizassem um trabalho colaborativo destinado a deslocar um braço mecânico! 

Muitas dessas experiências foram descontinuadas em face da aplicação das novas normas da bioética na experimentação animal.

Outro aspecto a considerar é a longevidade que saiu de um mero sonho criado por romancistas e escritores de ficção, para uma realidade presente e que hoje começa a preocupar em face dos problemas sociais e econômicos envolvidos.

Enquanto os produtos criados pela tecnologia são projetados para a sua existência em curtos períodos de vida útil, quer seja através da denominada obsolescência programada ou perceptiva, em face também da evolução exponencial da tecnologia que acaba criando um novo produto substituto muito mais poderoso, versátil e operacional do que o substituído; em contrapartida o ser humano alongou o seu ciclo de vida, especialmente devido as tecnologias de novos fármacos e da medicina.

Figura 4 – Tecnologia e Longevidade.

Fonte: Elaborada pelo autor com base no Google Imagens (2018).

A perspectiva de vida hoje projeta estimativa média de 78,5 anos em 2040 no Brasil, enquanto outros pesquisadores já falam em 120 anos em 2050! Mas para que viver tanto tempo? E suas implicações demográficas, sociais e econômicas?

Examinando as tendências recentes damos conta que um verdadeiro tsunami tecnológico vem avançando significativamente e produzindo vários efeitos, entre eles, o desemprego em massa com a automação e a robótica e a migração das populações do campo para as áreas urbanas, dado que hoje, com os avanços tecnológicos foi possível reduzir de forma drástica a mão de obra no campo, absorvida pela alta tecnologia, inteligência artificial e robótica.

No caso do agronegócio, por exemplo, com a agricultura automatizada; sensores do solo são hoje capazes de detectar a qualidade desse solo, bem como a sua carência de determinados nutrientes, indispensáveis a produção de um determinado alimento (Figura 5). 

Máquinas se encarregam do plantio dos grãos, geneticamente modificados para aumentar a produtividade e reduzir o ataque das pragas das lavouras. Colhedeira se encarregam de realizar a colheita, acondicionando-a adequadamente e encaminhando-a para a fábrica ou caminhões, em breve autônomos, que levarão esses produtos aos respectivos destinos no porto de embarque para exportação ou para alguma unidade fabril para produção de insumos e alimentos derivados.

Figura 5 – Tecnologia agrícola.

Fonte: Google Imagens (2018).

No contexto das migrações, as projeções das Nações Unidas dão conta que em 2040, 68% da população mundial estará concentrada em grandes centros urbanos!

É obvio que essa elevada concentração de pessoas em grandes metrópoles resultará em gigantescos desafios para que sejam atendidas as suas necessidades básicas de sobrevivência, locomoção, lazer e abrigo.

Como a automação e a inteligência artificial vão extinguir um elevado contingente de mão de obra, terá que ser criado um programa de renda mínima que permita a cada cidadão ter uma vida digna e saudável; sob pena de vivermos em um mundo perverso e violento, com grandes tensões sociais!

Robôs serão encarregados do controle da mobilidade urbana especialmente com o uso da denominada Internet de Tudo (IoE – Internet of Everything), onde sensores dos mais diversos estarão enviando dados para serem processados por um mega sistema de controle, disponibilizando veículos autônomos e gratuitos para a locomoção das pessoas através de transportes coletivos dado que, em face da elevada concentração de pessoas nesses grandes centros urbanos, o transporte será massivamente coletivo, passando o transporte para pequenos veículos autônomos somente em casos especiais ou para pessoas especiais.

Figura 6 – Controle da mobilidade via IoT.

Fonte: Google Imagens (2018).

Os problemas das megas cidades se avolumaram, dado que grande parte das grandes metrópoles não foram projetadas para essas novas tecnologias e concentração de pessoas e, assim, terão que se adaptar, tais como Nova York, Rio de Janeiro, Berlin e tantas outras.

Figura 7 – Mega cidade inteligente.

Fonte: Veja (2017).

Fora desse contexto podemos considerar as denominadas cidades inteligentes, cujo concepção é mostrada na figura 7 e explicado em artigo nesse blog, o qual poderá ser consultado através do link indicado na bibliografia desse artigo.

No âmbito da medicina, a evolução se fez presente de forma revolucionária!

O uso de Big Data, Learning Machine e Deep Learning, resultou em avanços consideráveis no diagnóstico médico. Hoje o Watson, um supercomputador da IBM (sistema projetado para o processamento avançado de dados) produz, com base nos dados dos pacientes, um diagnóstico muito mais preciso do que aquele elaborado por um médico, dado o arsenal de informações que processa usando tecnologia avançada de inteligência artificial e aprendizado máquina.

De um lado, a farmacologia avançou consideravelmente, através do uso, por exemplo, de drogas inteligentes ou mesmo nano robôs, no velho estilo do famoso filme: “Uma viagem fantástica”, porém sem tripulantes, estarão brevemente revolucionando as cirurgias e procedimentos médicos, reduzindo consideravelmente os riscos e melhorando significativamente a recuperação dos pacientes.

De outro lado, as pesquisas genéticas com a denominada tecnologia CRISPR (Clustered Regularly Interspaced Short Palindromic Repeats), uma ferramenta para edição do genoma vem produzindo resultados fantásticos. Esta técnica que permite fazer uma verdadeira edição do genoma, vem permitindo desenvolver novos métodos para o tratamento de doenças tais como diabetes, ectrodactilia (rara malformação de membros), HIV, câncer etc. E estamos ainda só no começo!

Figura 8_A – Cenas do filme Oblivion - Dirigido por Joseph Kosinski.

Fonte: Universal Pictures.

https://www.youtube.com/watch?v=mWLZ07U85h0 

Trailer de Oblivion : The Elder Scrolls IV 

Figura 8 – B – Cenas do filme Mad Max dirigido por George Miller.

Fonte: Village Roadshow Pictures.

https://www.youtube.com/watch?v=TdJ7DMwAukU

Trailer de Mad Max na estrada da fúria.

Em verdade, o futuro é agora. Porém não podemos deixar de lado as preocupações humanitárias com as populações menos favorecidas que vivem na mais extrema pobreza, ou viveremos em um mundo perverso, bem ao estilo daquele apresentado nas películas denominadas Oblivion (Figura 8_A) e Mad Max (Figura 8_B), cujos trailer poderão ser vizualizados nos links indicados nas respectivas figuras!

 Fonte:

GONÇALVES, P. S. in Inteligência Artificial aplicada à Logística - disponível em http://professorgoncalves.blogspot.com/2016/10/inteligencia-artificial-aplicada.html - acesso: 16/10/2018.

- in Smart Cities tecnologias inteligentes – disponível em : http://professorgoncalves.blogspot.com/2017/11/smart-cities-ii-tecnologias.html - acesso: 16/10/2018.

– in Futuro do trabalho - http://professorgoncalves.blogspot.com/2017/07/o-futuro-do-trabalho.html - acesso: 16/10/2018.

KUMAR, N. in What is the difference between Machine Learning and Deep Learning – disponível em: https://medium.com/@Say2neeraj/what-is-the-difference-between-machine-learning-and-deep-learning-5795e4415be9 - acesso: 16/10/2018.

PORTALGSTI in Curso de inteligência artificial para iniciantes – disponível em: https://www.portalgsti.com.br/cursos/curso-inteligencia-artificial-para-iniciantes/ - acesso: 16/10/2018.

NETGEO in A revolução do DNA – disponível em https://nationalgeographic.sapo.pt/fotografias/do-leitor/18-videos/867-dna-185  acesso: 16/10/2018.

GRANDELE, R e PAINS, C. – in Expectativa de vida aumentará em todos os países até 2040, diz estudo -  disponível em https://oglobo.globo.com/sociedade/expectativa-de-vida-aumentara-em-todos-os-paises-ate-2040-diz-estudo-23160785

SABRINA, F.H. e PAZÓ, C.G.  in A biotíerica e a experimentação animal – Uma busca de novas alternativas. Disponível em: http://site.fdv.br/wp-content/uploads/2017/03/Parte-1-14-A-bioe%CC%81tica-e-a-experimentac%CC%A7a%CC%83o-animal-Sabrina-Eancio-e-Cristina-Pazo%CC%81.pdf – acesso: 17/10/2019.

SETOR SAÚDE in A expectativa de vida pode chegar a 120 anos em 2050 – disponível em https://setorsaude.com.br/expectativa-de-vida-pode-chegar-a-120-anos-em-2050/.
UOL NOTÌCIAS in Pesquisador brasileiro faz com que macacos trabalhem por "telepatia" - disponível em :https://noticias.uol.com.br/ciencia/ultimas-noticias/redacao/2015/07/09/nicolelis-consegue-fazer-com-que-animais-trabalhem-por-telepatia.htm - acesso: 17/10/2018.
BIERVER, C. in Brain cells in a dish fly flghter plane -  New Scientis - 24/10/2015 - disponível em : https://www.newscientist.com/article/dn6573-brain-cells-in-a-dish-fly-fighter-plane/ - acesso: 16/10/2018.