A AIRES na PUCRS está colocando à disposição do público o teeny-tiny_castle, um repositório de código destinado a fornecer ferramentas a pesquisadores interessados em trabalhar com questões que envolvem ética e segurança da IA utilizando Python.
Neste repositório, você encontrará notebooks e scripts mostrando como criar e utilizar ferramentas para abordar certas questões que trabalhamos em ética e segurança da IA (e.g., interpretabilidade, sustentabilidade, equidade, robustez). Você também irá encontrar um curso de introdução a Python+ML ( - Machine Learning - ) para lhe ajudar a começar caso você não esteja familiarizado com essa linguagem. A parte de intodução a ML foi desenvolvida para dar aos interessados conhecimento sobre algumas das ferramentas e abstrações que fundamentam o ML.
Todos os requisitos e instruções passo-a-passo podem ser encontraos no teeny-tiny_castle. Lá você irá encontrará uma série de tutoriais, exemplos, e ferramentas para trabalhar com questões relacionadas a:
Ética da IA (Diretrizes, Governaça, Regulamentação, P&D).
Sustentabilidade no desenvolvimento de grandes modelos (como medir e quantificar a pegada de carbono de modelos treinados por ML).
Interpretabilidade e robustez em visão computacional (ferramentas para XAI e Adversarial ML).
Interpretabilidade e Robustez em PLN (LIME para PNL, Playgrounds para engenharia de prompt, exemplos de text mining).
Interpretabilidade na classificação e predição com dados tabulares (como explicar classificações divergentes de modelos desenvolvidos por ML).
Equidade em aprendizagem de máquina (como medir, quantificar e remediar a discriminação algorítmica).
Segurança sistémica (como organizações devem se coordenar para proteger e preservar a sua infra-estrutura de informação).
Este repositório é um trabalho em progresso sendo construído como parte da iniciativa RAIES (Rede de Inteligência Artificial Ética e Segura), um projecto apoiado pela FAPERGS (Fundação de Amparo à Pesquisa do Estado do Rio Grande do Sul). Caso você tenha interesse em colaborar com o projeto, contate-nos!
Comments