Una carta abierta al Sur Global:

Traiga el “resto” adentro

Durante los últimos siglos, la sociedad humana ha pasado por muchas transformaciones. Diferentes innovaciones tecnológicas han permitido que verdaderas revoluciones hayan cambiado permanentemente la forma en que vivimos, nos relacionamos y entendemos el mundo. Mejores herramientas, máquinas de vapor, penicilina, vacunas, telecomunicaciones, plástico, silicio, computadoras.

 

La llamada 4ª Revolución Industrial es la culminación de la era digital, donde tecnologías como la robótica, la nanotecnología, la genética y la inteligencia artificial (IA) prometen transformar nuestro mundo y la forma en que vivimos. Actualmente, la más asequible y ampliamente utilizada de estas innovaciones es la IA.

 

No hay necesidad de buscar muy lejos para encontrar sistemas autónomos que interactúen con usted o con las personas que le rodean. Su teléfono probablemente opera varios tipos diferentes de modelos entrenados por aprendizaje automático (por ejemplo, modelos de lenguaje, visión por computadora), entre otras metodologías que se ajustan al gran paraguas interdisciplinario que llamamos inteligencia artificial.

 

Los drones entregan nuestras órdenes, los algoritmos de recomendación dan forma e influyen en nuestras preferencias, Los modelos probabilísticos optimizan varios procesos previamente reservados solo para el intelecto humano. Vehículos autónomos, plegamiento de proteínas, procesamiento del lenguaje natural, modelos climáticos, cada año (o mes) se supera una nueva barrera.

 

Por mucho que la "inteligencia" sea un concepto difícil de definir, hay más de unos pocos que creen que estamos en el camino de crear inteligencia artificial genuina. Inteligencia artificial verdadera.

 

La inteligencia promete producir algunas de las soluciones más urgentes que necesita la humanidad. Fuentes de energía limpia, curas para enfermedades, mejores sistemas económicos. Todas estas soluciones son "huevos de oro" y, como dijo Ray Solomonoff, uno de los padres fundadores del campo de la investigación de la inteligencia artificial: el campo de la investigación de la IA no busca huevos de oro específicos. Estamos buscando el ganso que los produce.

 

La IA genuina bien puede ser la última invención que necesitamos hacer. E incluso si el camino hacia la inteligencia artificial general está bloqueado por una barrera aún desconocida, esto no significa que la IA débil vaya a cambiar, cómo está cambiando, el mundo en una dirección que todavía es - ya que el futuro siempre es - incierta.

 

Y esto no es algo nuevo.

 

Muchas organizaciones y actores globales, previendo la urgencia e importancia de este tema, ya están tomando medidas para asegurar que este futuro incierto valga la pena. Dado el poder transformador de la IA, sea a favor o en detrimento de la humanidad, es de gran importancia llegar a un consenso sobre las normas y los lineamientos que regularán dichas tecnologías.

 

De este sentido de urgencia han surgido varios campos de investigación, como La Ética y Seguridad de IA. Ambos con sus intereses y agendas específicas, pero con un objetivo general común: hacer que la interacción entre los humanos y la IA sea segura y beneficiosa. Asegurarse de que la inteligencia artificial sea creada para el bien de todos.

 

La tecnología no es ni buena ni mala. Sin embargo, tampoco es neutra. La tecnología, como la IA, es lo que hacemos con ella. Por lo tanto, no podemos usar nuestras creaciones para disculparnos por nuestros errores. En un mundo donde los modelos son creados, entrenados, desarrollados, implementados y utilizados por personas, la respuesta "los datos están sesgados" no será suficiente para proteger y preservar nuestros valores.

 

Para asegurar que nuestros valores estén de acuerdo con los objetivos optimizados por sistemas de inteligencia artificial, y para asegurar que los valores que guían la industria responsable por el desarrollo de tales sistemas no sean sólo los valores de mercado, pero los valores que promueven el florecimiento de nuestra especie, una serie de pautas éticas se han publicado en los últimos años.

 

Esta es una iniciativa muy importante, y alentamos y felicitamos a todos los involucrados en este esfuerzo. En estos documentos publicados con sus diversos orígenes, se definen y defienden muchos principios éticos: Transparencia, Justicia, Equidad, No maleficencia, Responsabilidad, Privacidad, Beneficencia, Libertad, Autonomía, Confianza, Dignidad, Sustentabilidad, Solidaridad.

 

El propósito de esta carta de ninguna manera es criticar el trabajo realizado hasta ahora. Las pautas éticas son escritas por personas. Las personas son entidades históricas con contextos específicos. Y es natural que los principios esbozados en tales pautas reflejan las preferencias de los responsables de su producción. El propósito de esta carta es una solicitud de que dos principios éticos, aparentemente ignorados por muchas de estas pautas, reciban más atención en este debate: Diversidad e Inclusión

 

  • Diversidad: La apreciación de las diferentes formas en que el cuerpo humano puede llegar a expresarse mediante cualquier grupo o identidad que desee. Los sistemas de inteligencia artificial deben desarrollarse de manera que protejan y valoren nuestra diversidad.
     

  • Inclusión: La aceptación de todas las formas en que la entidad humana puede llegar a expresarse, independientemente de afiliaciones, grupos e identidades específicas. Los sistemas de IA deben estar diseñados para "incluir", no excluir.

 

La literatura sobre Ética de la IA ya ha avanzado este debate hasta el punto de crear varias definiciones de “justicia algorítmica”, que son, sin embargo, formas de implementar principios como la diversidad y la inclusión. Sin embargo, no se puede decir lo mismo del campo de la Ética y Gobernanza IA en sí.

 

Esto no es tanto un reclamo, sino un hecho empírico sobre el estado actual del mundo. La gran mayoría de las directrices éticas y los documentos creados para regular y gobernar la AI y su industria tienen sus orígenes vinculados a las organizaciones del Norte global.

 

Prácticamente todo el Sur global está fuera del debate sobre los principios éticos que deberían regir y orientar el desarrollo tecnológico futuro de nuestra sociedad. Y esto es inaceptable.

 

A nuestro conocimiento, las únicas afirmaciones éticas hechas por América Latina son la "Declaración De Principios Éticos para La AI de América" de 2019, la "fAIr LAC: Adopción ética y responsable de la inteligencia artificial en América Latina y el Caribe” de 2020 y el “Marco ético para la inteligencia artificial en Colombia” de 2020. En el Medio Oriente, el único reclamo ético en relación con la IA son los “Principios de IA de Dubai” de 2019. En el sur de Asia, solo encontramos el “Compilación de los principios éticos de la IA existentes (2020)” y el “Modelo propuesto de marco de gobernanza de la IA: Principios rectores (2019)”, ambos de Singapur. En el África subsahariana, sólo encontramos la “Serie de guías temáticas de datos e inteligencia artificial” de 2020. De las casi 200 pautas éticas publicadas hasta la fecha, estas son las únicas voces del Sur Global. Y de ninguna forma representan la totalidad de la complejidad social que se encuentra debajo del ecuador

 

Regiones como América Latina, África Subsahariana, Medio Oriente y Asia del Sur todavía tienen una voz muy pequeña en este debate. No se puede esperar que otros países y culturas definen lo que es mejor para el contexto de esos lugares. Lugares marcados por profundas cicatrices del viejo mundo, por heridas políticas coloniales e imperialistas que no sanarán en el corto plazo

 

Esta carta es un llamado a la cuerda del Sur Global. Y una solicitud para que el Norte Global esté listo para escucharnos y recibirnos. Si realmente queremos que la IA sea “una luz cálida para que la comparta toda la humanidad”, no debemos olvidar que vivimos en un mundo plural, desigual y diverso. Debemos recordar las voces que hasta ahora no han tenido la oportunidad de reclamar sus preferencias, explicar sus contextos, y quién sabe, decirnos algo que aún no hemos considerado ni escuchado.

 

Para todos los actores del Norte global, no olviden que la división Norte/Sur es ilusoria. Todos compartimos la misma casa. Y a todos los actores nuevos y potenciales en el Sur global, que sus voces sean escuchadas. Utilice cualquier vehículo de comunicación que esté a su alcance. Comprométase y reclame sus derechos.

 

Traiga el "resto" adentro.

Nicholas Kluge Corrêa, AIRES (AI Robotics Ethics Society) PUCRS

Nythamar de Oliveira, PUCRS - CNPq

Diogo Fernando Massmann, PUCRS

Carolina Del Pino Carvalho, PUCRS

Lara Sosa Márquez, PUCRS

Camila Palhares Barbosa, PUCRS

James William Santos, PUCRS

Camila Trindade Galvão, PUCRS

Rodrigo Mambrini Sandoval Barbosa, PUCRS

Edson Antônio Sousa Pontes Pinto, FCR - PUCRS

Edmund Terem Ugar, University of Johannesburg (UJ)

Rodrigo Leal de Moraes, NAVI Tecnopuc
Guilherme Camargo, PUCRS

Aaron Hui, AI Robotics Ethics Society

Guilherme Fernandes Garcia, NAVI Tecnopuc

Cláudio Teixeira Damilano, PUCRS

Alexandre de Souza Athaíde, PUCRS

Renata Lima Ferreira, Centro Universitário Ritter Dos Reis

Délio José Kipper, ESMED-PUCRS

Márcia Cassimiro, Fiocruz/IOC

Rafaela Weber Mallmann, PUCRS

Tiago Protti Spinato, Unijui

Matheus de Mesquita Silveira, UCS

Denise Cantarelli Machado, PUCRS

Ricardo S. dos Santos, PUCRS

Hellen Maruyama Kodama, Universidade do Vale dos Sinos

Antonia Wallig, Associação Cultural Vila Flores

Diogo Sebastião Mury, Lenda Cripto

Camile Costa, AI Robotics Ethics Society

Renata Guadagnin, Terceiro Andar Educacional; PUCRS

Nelson Fossatti, PUCRS

Érico João Hammes, PUCRS

Nuno Miguel Pereira Castanheira, PUCRS

¡Firma nuestra Carta Abierta!

Gracias!