Quando Asimov escreveu o livro Eu, Robô ele disse que pessoas inteligentes criariam robôs que não atacariam seus criadores, citando as Três Leis da Robótica. Isso acontece com a IA no século XXI?

Cena do filme Eu, Robô

À medida que as máquinas se tornam mais poderosas e totalmente necessárias em nossas vidas, pretendemos torná-las invisíveis. Fazemos isso para esquecer que elas já dominam o nosso mundo. A Apple sempre soube disso e por isso os seus dispositivos têm uma forma orgânica e arredondada, pois há mais curvas na natureza do que linhas retas. Ou seja, o design nos impulsiona em direção ao menor, ao mais discreto e ao praticamente imperceptível. É por isso que as grandes Big Techs querem tornar a tecnologia, que domina as nossas vidas, menos aparente. Simplesmente para dar a impressão de que ainda estamos no controle, algo bem parecido com aquilo que Asimov imaginou.

A IA nas empresas

No entanto, quase ninguém presta atenção em como a tecnologia funciona, as pessoas só se importam que ela funcione corretamente. No geral, isso pode ser bom, pois é mais produtivo nos preocuparmos com os resultados e não como eles são alcançados.

Mas você sabe quantas empresas estão incorporando Inteligência Artificial (IA) nos dispositivos que você utiliza? Em alguns casos essa sigla da moda, IA, pode ser apenas uma simples jogada de marketing. Porém, várias empresas realmente utilizam IA e Machine Learning para levarem os seus produtos adiante. Algo que, dentro desse contexto, significa aprender, compreender ou dar grandes saltos conceituais na evolução dessa Inteligência Artificial.

A IA já está presente em nossas vidas

O principal problema da IA, é que muitas vezes assumimos que as máquinas são neutras e inclusivas, porém elas não são. Pesquisas recentes revelam um grande preconceito de gênero e raça em vários sistemas de IA vendidos pelas gigantes da tecnologia como IBM, Microsoft e Amazon. Com uma simples tarefa de adivinhar o gênero de um rosto, todas as empresas tiveram um desempenho substancialmente melhor nos rostos masculinos, do que nos femininos. No entanto, de acordo com a pesquisa realizada pela cientista da computação e fundadora da Algorithmic Justice League, Joy Buolamwini, as empresas apresentaram taxas de erro de no máximo 1%, para homens de pele mais clara. Já para as mulheres com pele mais escura, os erros aumentaram 35%. Os sistemas de IA, dessas empresas líderes, não conseguiram classificar corretamente os rostos de Oprah Winfrey, Michelle Obama e Serena Williams.

Quando a tecnologia erra bruscamente, até mesmo com essas mulheres icônicas, é porque precisamos avaliar como esses sistemas estão sendo desenvolvidos e se eles realmente são inclusivos para todos.

Stephen Hawking já falou sobre o domínio da IA

O lendário Stephen Hawking compartilhou este aviso bem sinistro: “O sucesso na criação de uma IA eficaz pode ser o maior evento da história de nossa civilização. Ou o pior. Portanto, não podemos saber se seremos infinitamente ajudados pela IA, ou se seremos ignorados e possivelmente destruídos por ela.”

Como o algoritmo de IA é construído por humanos, eles podem ter um viés racista ou misógino embutido, intencionalmente ou inadvertidamente. Se esse algoritmo de IA for construído com esses dados tendenciosos, com certeza eles podem produzir resultados negativos para o nosso mundo. Essa realidade pode levar à consequências indesejadas, como as que vimos em algoritmos de recrutamento totalmente discriminatórios e até no chatbot do Twitter, que tornou a Microsoft racista.

Gigantes da tecnologia assumem que estão erradas

Infelizmente, esse problema fica assustadoramente claro, principalmente quando existem várias evidências de que os algoritmos de decisão estão perpetuando a injustiça para muitos. Pois muitos casos estão surgindo, e todos mostram que o código postal, a etnia, o gênero, as associações e a pobreza, influenciam negativamente nas decisões que estão sendo avaliadas pelas máquinas. Gigantes da tecnologia, como o Google e a Microsoft, admitem abertamente que existem vários problemas de preconceito nas Inteligências Artificiais. No entanto, eles dizem que têm feito o possível, mais ainda sem sucesso, para encontrar soluções.

Essas áreas de injustiça que vêm à tona incluem: risco de seguro, decisões sobre empréstimos hipotecários, seleção, contratação e entrevistas para empregos, publicidade de empregos, risco de fiança, avaliação pessoal, sentença de custódia, segurança nos aeroportos e até policiamento preventivo. Na mão de pessoas erradas, algo que não falta em nosso mundo, esses algoritmos representam um perigo enorme.

Ou seja, Minority Report já existe entre nós. E, como vimos no filme, esse sistema tem falhas imensas e uma total manipulação daqueles que desenvolveram a IA, ou para quem eles venderam essa tecnologia. Não sabemos quais problemas ainda estão por vir, ou se outros dados preconceituosos podem ser implantados nessas tecnologias de segmentação. Pois sabemos que elas são utilizadas pelo Estado e por várias empresas que não estão do lado do povo.

Asimov fez uma crítica crucial ao que enfrentaríamos no século XXI. O que acontecerá com os humanos se a IA estiver em todos os segmentos e passar a decidir qual será o nosso próximo passo e como viveremos?

Na Amazon você encontra tudo para a sua Casa Inteligente – Clique Abaixo