INTELIGÊNCIA ARTIFICIAL COM ÉTICA E JUSTIÇA?

Atualizado: Fev 13

A IA já está ocupando praticamente todos os espaços da sociedade, com a internet das coisas, ela estará inclusive fisicamente dentro de nossas casas, já que virtualmente, com os smartphones, ela já sabe mais do que nós que nós mesmos.


Eu já comentei em outro texto, Algoritmo do Juízo Final, os impactos sociais e econômicos terríveis que a IA, aliada a robotização, trará para a maioria das pessoas, com o aumento continuo da desigualdade e concentração de capital. Recomendo ler. Por esta razão não vou abordar neste texto, estes aspectos.


A IA precisa ter padrões de justiça e ética, mesmo que as redes sociais, tais como Google, Twitter, TikTok, Facebook etc. bem como seus acionistas e patrocinadores não o tenham, como é evidente pelo modo como principalmente Google, Facebook e Twitter tratam as questões pertinentes a ética e justiça.


Principalmente em questões como disseminação de preconceitos e processos discriminatórias, incluídos na pós-verdade e disseminados via fake news, pela chusma da democracia ciborgue da nova direita.


A IA já comanda o sistema financeiro, começa a comandar o sistema judicial e já comanda inclusive processos seletivos de empregos públicos e privados.


Dentro do mundo da tecnologia de informação, temos o conceito de orientações algorítmicas, que basicamente são, mecanismos da IA para realizar rapidamente associações, com base nas experiências e cenários vivenciados pela deep learning e big data, que pode levar a tomada de decisões conhecidas e seguras. Ainda assim, as orientações algorítmicas funcionam da mesma forma dos vieses humanos a partir da neurociência e da psicologia.


Existem vários tipos de orientações algorítmicas. Algumas mais utilizadas são:


· Orientações algorítmicas de afinidade: tendência a avaliar melhor o que é similar a coisas conhecidas para nós;


· Orientações algorítmicas de percepção: quando as pessoas acreditam e reforçam estereótipos sem base concreta em fatos;


· Orientações algorítmicas confirmatório: disposição para buscar informações que confirmem nossas hipóteses e ignorem as que contradigam;


· Orientações algorítmicas de efeito de auréola (efeito halo): propensão de ter mais disposição a avaliar positivamente o restante das informações a partir de uma única informação positiva ou agradável;


· Orientações algorítmicas de grupo: seguir o padrão de um grupo, levando à concordância de uma mesma ideia.


A IA se orienta pela inteligência humana, deste modo acaba seguindo os mesmos vieses humanos em forma de algoritmos.

Figura 1


Temos que sempre ressaltar a visão em 3D, esquecendo a visão em 2D, deste modo as orientações algorítmicas não são boas nem ruins, apenas tem entradas, processamentos e saídas como toda a tecnologia de informação.


O problema das orientações algorítmicas é o risco que estas associações automáticas trazem para a divulgar processos discriminatórios que impactam nas desigualdades entre as pessoas.


A discussão sobre orientações algorítmicas existe em vários cenários, e está permeada por muitos debates sobre questões éticas e morais. Falar sobre orientações algorítmicas implica falar sobre desigualdade e discriminação por questões como gênero, raça, idade, orientação afetiva-sexual, linguagem, cultura, deficiência, condição econômica, entre outros fatores e suas intersecções. E as redes sociais nos últimos dez anos são a prova real do quanto isso tem sido nocivo para a humanidade.


A IA não é imparcial: os algoritmos são processos matemáticos e são as pessoas quem os desenvolvem. Não é incomum vermos soluções que usam tecnologias de Inteligência Artificial apresentando orientações racistas, sexistas e classistas, como aplicativos que ao prometerem embelezar o rosto das pessoas, as embranquecem, diminuem seus narizes e aumentam seus olhos.


Uma IA não é “neutra, objetiva e infalível”. A precisão da IA depende, em grande parte, da qualidade dos dados e dos parâmetros codificados nos algoritmos de treinamento. Deste modo, a IA reflete os padrões de pensamento de quem a criou. Então vocês compreendem a razão pela qual Twitter, Google e Facebook têm funcionado alinhadas economicamente com o grande capital especulativo circulante pelo mercado de capitais globais. Este capital está entre os maiores acionistas institucionais das big techs.


No livro Comunidades, Algoritmos e Ativismos Digitais: Olhares Afrodiaspóricos, de Fernanda Carrera, ela cita “Ignorar os processos produtivos e tecnológicos destes mecanismos pode levar a uma atribuição de objetividade e racionalidade a resultados que podem estar carregados de subjetividade e vieses discriminatórios”.


Um dos maiores problemas da IA é não serem transparentes, evidentemente por razões econômicas e políticas. É por isso que aumentam as pesquisas nas áreas de Interpretabilidade e Explicabilidade. Apesar de serem utilizados quase de forma intercambiável, há uma pequena sutileza: “Interpretabilidade é a possibilidade de observar a relação de causa e efeito dentro de um sistema, de entender o que está acontecendo no algoritmo sem necessariamente entender o porquê. Enquanto explicabilidade é poder explicar em termos humanos a mecânica interna da máquina”. Vale a pena ler.


O Twitter, Google e Facebook tratam a questão de suas IA como caixas pretas, segredo estratégico de negócio que, como essas big techs, seus acionistas e patrocinadores, não respeitam ética e justiça, apenas ebitda.


A justiça dos EUA, assim com a europeia, parecem estar finalmente tomando as rédeas desta situação em seu território (enquanto nós somos tratados discriminatoriamente como cidadãos de terceiro mundo pelas mesmas redes sociais).


Em 1998, por razões políticas e econômicas, os EUA processaram Microsoft por monopólio. O Departamento de Justiça dos EUA e procuradores de 20 Estados americanos por prática de monopólio. ... ". Na época afirmavam que as ações da Microsoft tinham asfixiado a competição nos sistemas operativos e no mercado de browsers. Depois disso vieram Google, Facebook, Twitter etc. Conhecendo os fundadores de todas estas empresas fica evidente que este foi um erro histórico, pois é evidente que estaríamos muito melhor que hoje nas mãos de um Bill Gates e não destes millennials subsequentes sem escrúpulos. Entenda a razão. A única rede social na qual não há democracia ciborgue, pós-verdade e fake news é justamente o Linkedin, que pertence a Microsoft. Foi claramente uma ação política da, na época, nascente alt right norte americana, contra o perfil progressista de Bill Gates. A alt right tinha em mente esses CEO millennials que temos nas big techs hoje, como seus parceiros de “negócios” ideais.


No editorial do Jornal o Estado de São Paulo de hoje há uma panorâmica sobre este assunto no texto: “O cerco regulatório às gigantes digitais”, Notas & Informações, O Estado de São Paulo 12 de dezembro de 2020:


...


A história possivelmente registrará o ano de 2020 como o melhor e o pior para as gigantes tecnológicas. Na mesma proporção em que as ruas foram esvaziadas pelo vírus, o mundo virtual se expandiu. Ao mesmo tempo, os governos intensificaram sua ofensiva regulatória contra aquelas empresas.


Só no último trimestre a Comissão de Justiça da Câmara dos EUA acusou as big techs de manobras monopolísticas e abusos só comparáveis aos dos barões do petróleo; o Departamento de Justiça moveu uma ação antitruste contra o Google; e a Comissão Europeia acusou a Amazon de utilizar dados privados de vendedores para competir contra eles.


O último golpe foi contra o Facebook: uma ação antitruste protocolada no dia 9 pela procuradoria de Nova York, à frente de uma coalizão bipartidária formada por 45 Estados. Paralelamente, a Comissão Federal de Comércio processou o Facebook por práticas monopolistas, pedindo o seu desmembramento.


“Nenhuma empresa deveria ter tanto poder sem controle sobre nossos dados pessoais e interações sociais”, disparou a procuradora de Nova York Letitia James. “Estamos enviando uma mensagem clara e forte ao Facebook e a todas as empresas, de que seu esforço por sufocar a concorrência, prejudicar pequenos negócios, reduzir a inovação e a criatividade ou mutilar proteções à privacidade enfrentará toda a força de nossas instituições”.


A alegação é de que a aquisição de concorrentes como o Instagram e o WhatsApp pelo Facebook reduziu as escolhas dos consumidores. Essa mesma alegação expõe as fragilidades dos atuais quadros regulatórios. As leis antitruste focam tradicionalmente nos preços aos consumidores. Mas as big techs oferecem produtos gratuitos, sendo recompensadas não com o dinheiro dos usuários, mas com seus dados.


Na verdade – além da eventual quebra de privacidade –, o prejuízo aos consumidores é indireto. O verdadeiro efeito do controle do mercado das redes sociais (Facebook) ou dos mecanismos de busca (Google) ou das vendas digitais (Amazon) é a monopolização dos canais de anúncios e vendas. Presumivelmente, as empresas têm de pagar mais do que pagariam em um mercado aberto para levar seus produtos aos consumidores, repassando a eles os custos. Colateralmente, os monopólios inibiriam a inovação.


Mas ações legais post hoc, além de comportarem o potencial de criar insegurança jurídica – afinal, aquisições como as do Facebook foram aprovadas pelas agências reguladoras –, são lentas e limitadas. Casos como este manifestam a urgência de novas regulações concorrenciais e instâncias reguladoras.


“Gigantes digitais como Google e Facebook dominam a internet em parte porque desenvolveram excelentes produtos. Mas também são gigantes porque tornam mais difícil para outras empresas entrar no mercado e competir”, disse em artigo no Wall Street Journal o ex-consultor econômico da Casa Branca Jason Furman. “O desafio para os gestores públicos é preservar aquilo que há de bom nas gigantes digitais e mover a economia digital rumo à promessa do capitalismo, no qual a concorrência sustenta inovações vibrantes e benefícios aos consumidores”.


Nesse sentido, a Comissão Europeia está finalizando uma lista de atividades ilegais, de modo a poupar tortuosos processos probatórios para demonstrar danos aos consumidores. Mais consolidado é o código de conduta proposto pela Autoridade para Competição e Mercados britânica ao governo, que visa a atingir três objetivos: “Comércio equitativo, escolhas livres e confiança e transparência”. O código valerá para as grandes empresas, deixando às menores liberdade de inovação. A fiscalização ficará a cargo de uma Unidade de Mercados Digitais independente.


Ainda há muitas incertezas sobre as ações antitruste contra as big techs, e os regulamentos europeu e britânico terão de passar pelo escrutínio legislativo. Mas tais movimentos são um sinal de que o ano de 2020 pode ter sido o melhor para as big techs, mas não precisa ser o pior: pode ser apenas o ano em que seus elementos mais destrutivos começaram a ser desmantelados.


...


Esperamos que a justiça brasileira siga o mesmo caminho dos EUA e Europa “enquadrando” as redes sociais, dentro das mesmas leis que regulamentam o mundo não virtual. Ética e justiça para elas só na “marra”!

COPIAR E DIVULGAR CONTEÚDOS DESTE SITE SEM AUTORIZAÇÃO É CRIME DE VIOLAÇÃO DE DIREITOS AUTORAIS PREVISTO NO ART. 184 DO CÓDIGO PENAL!

Abba.png