INTELIGÊNCIA ARTIFICIAL
O que temer nos próximos anos?

A revista eletrônica Analytic Insight abriu uma discussão sobre um tema que vem preocupando a comunidade de pesquisadores: a inteligência artificial como uma “faca de dois gumes”, ou seja, o seu uso nas mais diversas áreas do conhecimento, tanto para beneficiar quanto prejudicar os seres humanos!

Não resta dúvida que os avanços tecnológicos beneficiam consideravelmente a humanidade; porém é bom lembrar que a tecnologia pode ser vista sobre a ótica de uma “espada de dois gumes”, tanto poderá servir para o bem da humanidade como também para propagar o lado sombrio do ser humano.

Hoje passamos a conviver com robôs e uma avalanche de algoritmos de inteligência artificial, que operando nos mais diversos campos das atividades humanas, produzem resultados fantásticos, como por exemplo, na precisão de diagnósticos médicos por imagem, na pesquisa de novas moléculas, em especial para a produção de medicamentos de última geração etc.

Porém um ponto vem preocupando desde as pessoas mais simples, como também grandes pesquisadores e empreendedores com Nick Bostron, Elon Musk, Stephen Hawking (já falecido e desenvolvedor da teoria dos buracos negros) etc. em face do temor de como a inteligência artificial vai se comportar no futuro! Em verdade, ninguém pode afirmar de forma absolutamente categórica até onde a inteligência artificial poderá chegar um dia!

Nesse sentido, a revista eletrônica Analytic Insight apresentou vários tópicos de potenciais efeitos negativos da inteligência artificial que poderão rondar o nosso planeta no ano de 2023 que acabou inspirando esse artigo.

1. Algoritmos deliberadamente tendenciosos.

Sobre esse tema, já tratamos aqui, quando comentamos o caso de vários sistemas que apresentam vieses tendenciosos. Neste sentido recomendo, para os interessados, a leitura da obra de Cathy O’Neil que leva o título de “Algoritmos de Destruição em Massa”, onde a autora destaca os perigos desses vieses. Como os algoritmos de “filtragem” na contratação de pessoas, assim como o caso emblemático do “Catbot” racista do Twitter da Microsoft.

Porém, a preocupação aqui vai além de envolver eventuais erros na programação desses algoritmos, mas sim a criação de algoritmos potencialmente projetados com vieses tendenciosos e nesse sentido produzirem efeitos danosos.

2. O futuro do trabalho

Na medida em que a tecnologia avança, ela acaba abrindo um novo leque de opções para novas formas de trabalho; entretanto haverá uma substancial perda de postos de trabalho com o advento da inteligência artificial, em especial aqueles rotineiros. Nesse sentido, destaco que abordei esse assunto em meu blog, em maio/2017, através do tema: O Futuro do Trabalho, cujo link destaco a seguir:

https://professorgoncalves.blogspot.com/2017/07/o-futuro-do-trabalho.

Nessa direção será indispensável que os programas de treinamento e educação sejam reformulados, tendo como principal enfoque a absorção das novas tecnologias e suas aplicações, criando-se dessa maneira uma força de trabalho devidamente preparada para evoluir e enfrentar os novos desafios da empregabilidade.

3. O difícil entendimento de como os algoritmos de AI, ao final, se comportam.

O fato é que muitos algoritmos acabam operando como “independentes” e sem qualquer controle ou censura. Um exemplo bem contundente foi o caso do “Catbot” racista do Twitter da Microsoft, como citado acima e mais recentemente a AI desenvolvida pelo Google que resultou numa avalanche de especulações desde de que  Blake Lemoine a entrevistou e anunciou publicamente sua “conversa” com ela ! Assim, a realidade é que esses algoritmos acabam agindo como uma verdadeira “caixa preta” e mais, muitos dos resultados obtidos por esses algoritmos de AI, são difíceis de explicar. Com cita a revista eletrônica Analytic Insight: “as pessoas precisam entender a lógica por trás das decisões em várias situações e negócios”.

Fatos como esse estão relacionados também à robôs programados nas operações do mercado financeiro, como foi, por exemplo, o caso da Knight Capital Group que registrou perdas de US$ 440 milhões em 2021, em face de uma falha no sistema de algoritmos de alta frequência. Aproveitando, para os interessados, sugiro a leitura do livro de Michael Lewis denominado Flash Boys.

Do mesmo modo, temos os diagnósticos de imagens realizados através de algoritmos de AI, como indicação de eventuais tratamentos médicos etc. Embora esses algoritmos apresentem excelentes resultados, como é o caso do algoritmo criado pelo professor Matthew Lungren, assistente de radiologia da Universidade de Stanford. Esse algoritmo foi alimentado com 112.120 imagens de raio-X de peito referentes a 14 tipos de doenças, e destinava-se a tarefa de diagnosticar patologias como a pneumonia. Após um mês de funcionamento, o algoritmo já conseguia diagnosticar a doença com maior precisão do que os profissionais humanos. Com a Analytic Insight: frequentemente, não entendemos por que o algoritmo está fazendo uma determinada escolha, e essa é uma preocupação. (Analytic Insight – octuber - 2022)

4. Ataques cibernéticos.

Vale lembrar que o tema foi objeto de discussões no Fórum Econômico Mundial, inclusive criando uma simulação através de um “jogo de guerra”  denominado “Cyberpolygon”, evento realizado na semana de 9 de julho de 2021 , e supostamente projetado para simular um ataque cibernético maciço que de alguma forma produzisse uma interrupção na cadeia de suprimentos global, ou pelo menos interrompesse a cadeia de suprimentos de várias grandes economias. Nesse contexto, Klaus Schwab, fundador do Fórum Econômico Mundial,  afirmou que o próximo ataque cibernético será como uma “pandemia cibernética” muito pior em escala destrutiva quando comparado ao covid.

De fato, em junho 2021, ocorreu uma interrupção da Internet, levando a um blecaute de uma vasta área da web, incluindo sites de notícias, plataformas tradicionais como a Amazon, eBay, Twitch, Reddit, assim como uma série de sites governamentais. Tudo isso aconteceu quando a empresa Fastly (uma grande rede de distribuição de conteúdo), apresentou um bug!

Embora a Amazon tenha colocado o seu site “no ar” em apenas 20 minutos após essa breve interrupção, esse evento acabou provocando uma queda no faturamento da empresa superior a US $ 5,5 milhões em vendas. Observar que estamos falando de um único site!

5.Terrorismo arquitetado com  o uso da IA.

Acredito que muitos assistiram a um vídeo fake, bastante impactante apresentado numa palestra do TED, na qual um apresentador mostrava mini drones militares assassinos, equipados com munição e dotados de inteligência artificial. Esse pequeno drone mostrava-se autônomo, podendo se esquivar de possíveis ataques e, dotado de uma inteligência artificial com algoritmo de reconhecimento facial, poderia reconhecer um determinado rosto e, mediante uma munição de alto poder destrutivo, eliminar o alvo com um único tiro.

Embora esse seja um vídeo falso, ele foi criado pelo grupo denominado Ban Lethal Autonomous Weapons (Banimento de Armas Autônomas Letais, numa tradução livre) com objetivo de chamar a atenção para um problema real que pode acontecer em um futuro próximo. Aliás vale lembrar que, em recente vídeo, realizado antes das eleições, o Presidente da República havia comentado que, no entorno do Palácio do Planalto foram instalados sistemas detectores de drone para evitar possíveis ataques!

Não há mais dúvidas sobre a possibilidade de uma nova abordagem terrorista com uso de inteligência artificial. Além do desenvolvimento de drones autônomos, há possibilidades reais de formação de nano-robôs em formação, tal qual um enxame de abelhas, com objetivo de promover ataques ou mesmo disseminar doenças ou borrifar em uma determinada região, um vírus mortal!

Nesse sentido, retorno ao ano de 2001 e a famosa queda do World Trade Center através de um ataque terrorista aéreo, mediante sequestros de aviões comerciais. Nesse episódio, devidamente investigado pelas autoridades americanas, estava o fato de que o grupo de terroristas tinham como intensão contratar um avião agrícola (aqueles destinados a aplicar fertilizantes, sementes e defensivos) e lançar, em plena cidade de Nova York, esporos de antraz (Bacillus Anthracis), onde esses esporos seriam preparados na forma de pós muito finos para se transformarem em uma arma de bioterrorismo!

 Caímos, ao final, no velho desafio da esfinge de Tebas: “decifra-me ou lhe devoro”!