Uma Carta Aberta ao Sul Global:

Tragam o “resto” para dentro

Durante os últimos séculos, a sociedade humana passou por várias transformações. Diferentes inovações tecnológicas permitiram que verdadeiras revoluções mudassem permanentemente a maneira como vivemos, nos relacionamos uns com os outros e compreendemos o mundo. Melhores ferramentas, motores a vapor, penicilina, vacinas, telecomunicações, plástico, silício, computadores.

A chamada 4ª Revolução Industrial é o culminar da era digital, onde tecnologias como robótica, nanotecnologia, genética e inteligência artificial (IA) prometem transformar nosso mundo e a maneira como vivemos. E atualmente, a mais acessível e massivamente utilizada dessas inovações é a IA.

Você não precisa procurar muito longe para encontrar sistemas autônomos interagindo com você ou com as pessoas ao seu redor. Seu celular provavelmente opera vários tipos diferentes de modelos treinados por aprendizagem de máquina (e.g., modelos de linguagem, visão por computador), entre outras metodologias que se enquadram no grande guarda-chuva interdisciplinar que chamamos de Inteligência Artificial.

Drones entregam nossas encomendas, algoritmos de recomendação formam e influenciam nossas preferências, modelos probabilísticos otimizam vários processos anteriormente reservados apenas para o intelecto humano. Veículos autônomos, dobramento de proteínas, processamento de linguagem natural, modelos climáticos, a cada ano (ou mês) uma nova barreira é superada.

Por mais que “inteligência” seja um conceito elusivo a definições, há mais do que alguns que acreditam que estamos a caminho de criarmos inteligência artificial genuína. Inteligência artificial verdadeira.

A inteligência promete produzir algumas das soluções mais urgentes que a humanidade necessita. Fontes de energia limpa, curas para doenças, melhores sistemas econômicos. Todas essas soluções são “ovos de ouro”, e como disse Ray Solomonoff, um dos pais fundadores do campo de pesquisa da inteligência artificial: o campo de pesquisa da IA não está procurando por ovos de ouro específicos. Nós estamos atrás da gansa que os produz.

IA genuína pode muito bem ser a última invenção que precisamos fazer. E mesmo que o caminho para a inteligência artificial geral seja bloqueado por uma barreira ainda desconhecida, isto não significa que IA fraca mudará, como está mudando, o mundo em uma direção que ainda é, como o futuro sempre é, incerta.

E isto não é novidade.

Muitas organizações e atores globais, prevendo a urgência e a importância desta questão, já estão tomando medidas para garantir que este futuro incerto valha a pena. Dado o poder transformador da IA, seja em benefício ou em detrimento da humanidade, é de grande importância que cheguemos a um consenso sobre as normas e diretrizes que irão regular tais tecnologias.

A partir deste senso de urgência, vários campos de pesquisa surgiram, tais como Ética e Segurança da IA. Ambos com seus interesses e agendas específicas, mas com um objetivo geral comum: tornar a interação entre os seres humanos e a IA segura e benéfica. Garantir que a Inteligência Artificial seja criada para o bem de todos.

A tecnologia não é boa nem ruim. No entanto, não é neutra. A tecnologia, como a IA, é o que nós fazemos dela. Assim, não podemos usar nossas criações para nos desculpar por nossos erros. Em um mundo onde modelos são criados, treinados, desenvolvidos, implantados e utilizados por pessoas, a resposta “os dados são tendenciosos” não será suficiente para proteger e preservar nossos valores.

Para garantir que nossos valores estejam de acordo com os objetivos otimizados por sistemas de IA, e para assegurar que os valores que orientam a indústria responsável pelo desenvolvimento de tais sistemas não sejam apenas os valores do mercado, mas valores que promovem o florescimento de nossa espécie, várias diretrizes éticas têm sido publicadas nos últimos anos.

Esta é uma iniciativa muito importante, e nós encorajamos e parabenizamos todos os envolvidos neste esforço. Nestes documentos publicados, com suas mais diversas origens, muitos princípios éticos são definidos e defendidos: Transparência, Justiça, Equidade, Não maleficência, Responsabilidade, Privacidade, Beneficência, Liberdade, Autonomia, Confiança, Dignidade, Sustentabilidade, Solidariedade.

O objetivo desta carta não é, de forma alguma, criticar o trabalho realizado até agora. Diretrizes éticas são escritas por pessoas. Pessoas são entidades históricas com contextos específicos. E é natural que os princípios delineados em tais diretrizes reflitam as preferências dos responsáveis pela sua produção. O objetivo desta carta é um pedido para que dois princípios éticos, aparentemente ignorados por muitas dessas diretrizes, recebam mais atenção neste debate: Diversidade e Inclusão.

  • Diversidade: A valorização das diferentes formas pelas quais a entidade humana pode vir a se expressar por qualquer grupo ou identidade que deseje. Sistemas de IA devem ser desenvolvidos de forma a proteger e valorizar nossa diversidade.
     

  • Inclusão: O acolhimento de todas as formas que a entidade humana pode vir a se expressar, independentemente de filiações, grupos e identidades específicas. Sistemas de IA devem ser desenvolvidos de forma a “incluir”, e não excluir.

 

A literatura sobre Ética da AI já avançou este debate ao ponto de criar várias definições de “justiça algorítmica”, que não deixam de ser formas de implementar princípios como diversidade e inclusão. Entretanto, o mesmo não pode ser dito sobre o campo da Ética e da Governança da IA em si.

Isto não é tanto uma reivindicação, mas um fato empírico sobre o estado atual do mundo. A grande maioria das diretrizes e documentos éticos criados para regular e governar a IA e sua indústria tem suas origens vinculadas a organizações do Norte Global.

Praticamente todo o Sul global está fora do debate sobre os princípios éticos que devem regular e direcionar o futuro desenvolvimento tecnológico de nossa sociedade. E isto é inaceitável.

De nosso conhecimento, as únicas reivindicações éticas feitas pela América Latina são a “Declaración de Principios Éticos Para La AI de Latinoamérica” de 2019, a “fAIr LAC: Adopción ética y responsable de la inteligencia artificial en América Latina y el Caribe” de 2020 e o “Marco Ético para la Inteligencia Artificial en Colombia” de 2020. No Oriente Médio, a única reivindicação ética em relação à IA é os “Dubai's AI Principles” de 2019. No Sul da Ásia, encontramos apenas a “Compilation of existing AI ethical principles (2020)” e o “Proposed Model AI Governance Framework: Guiding Principles (2019)”, ambos de Singapura. Na África Subsaariana, encontramos apenas a “AI & Data Topical Guide Series”, de 2020. Das quase 200 diretrizes éticas publicadas até hoje, estas são as únicas vozes do Sul Global. E de forma alguma elas representam a totalidade da complexidade social que se encontra abaixo da linha do Equador.

Regiões como a América Latina, África Subsaariana, Oriente Médio e o Sul da Ásia ainda têm uma voz muito pequena neste debate. Não se pode esperar que outros países e culturas definam o que é melhor para o contexto desses lugares. Lugares marcados por profundas cicatrizes do velho mundo, por feridas coloniais e por políticas imperialistas que não serão curadas tão cedo.

Esta carta é um apelo para que o Sul Global acorde. E um pedido para que o Norte Global esteja pronto para ouvir-nos e para receber-nos. Se realmente queremos que a IA seja “uma luz quente para toda a humanidade compartilhar”, não podemos esquecer que vivemos em um mundo plural, desigual e diverso. Devemos lembrar as vozes que até agora, não tiveram a oportunidade de reivindicar suas preferências, explicar seus contextos, e quem sabe, dizer-nos algo que ainda não consideramos ou ouvimos.

Para todos os atores globais do Norte, não se esqueçam que a divisão Norte/Sul é ilusória. Todos nós compartilhamos a mesma casa. E a todos os novos e potenciais atores do Sul global, façam ouvir suas vozes. Usem quaisquer veículos de comunicação que estejam ao seu alcance. Engaje-se e reivindique seus direitos.

Tragam o “resto” para dentro.

Nicholas Kluge Corrêa, AIRES (AI Robotics Ethics Society) PUCRS

Nythamar de Oliveira, PUCRS - CNPq

Diogo Fernando Massmann, PUCRS

Carolina Del Pino Carvalho, PUCRS

Lara Sosa Márquez, PUCRS

Camila Palhares Barbosa, PUCRS

James William Santos, PUCRS

Camila Trindade Galvão, PUCRS

Rodrigo Mambrini Sandoval Barbosa, PUCRS

Edson Antônio Sousa Pontes Pinto, FCR - PUCRS

Edmund Terem Ugar, University of Johannesburg (UJ)

Rodrigo Leal de Moraes, NAVI Tecnopuc
Guilherme Camargo, PUCRS

Aaron Hui, AI Robotics Ethics Society

Guilherme Fernandes Garcia, NAVI Tecnopuc

Cláudio Teixeira Damilano, PUCRS

Alexandre de Souza Athaíde, PUCRS

Renata Lima Ferreira, Centro Universitário Ritter Dos Reis

Délio José Kipper, ESMED-PUCRS

Márcia Cassimiro, Fiocruz/IOC

Rafaela Weber Mallmann, PUCRS

Tiago Protti Spinato, Unijui

Matheus de Mesquita Silveira, UCS

Denise Cantarelli Machado, PUCRS

Ricardo S. dos Santos, PUCRS

Hellen Maruyama Kodama, Universidade do Vale dos Sinos

Antonia Wallig, Associação Cultural Vila Flores

Diogo Sebastião Mury, Lenda Cripto

Camile Costa, AI Robotics Ethics Society

Renata Guadagnin, Terceiro Andar Educacional; PUCRS

Nelson Fossatti, PUCRS

Érico João Hammes, PUCRS

Nuno Miguel Pereira Castanheira, PUCRS

Assine a nossa Carta Aberta!

Obrigado!