Buscar
  • Nicholas Kluge

Bem-vindo ao Teeny-tiny castle





A AIRES na PUCRS está colocando à disposição do público o teeny-tiny_castle, um repositório de código destinado a fornecer ferramentas a pesquisadores interessados em trabalhar com questões que envolvem ética e segurança da IA utilizando Python.


Neste repositório, você encontrará notebooks e scripts mostrando como criar e utilizar ferramentas para abordar certas questões que trabalhamos em ética e segurança da IA (e.g., interpretabilidade, sustentabilidade, equidade, robustez). Você também irá encontrar um curso de introdução a Python+ML ( - Machine Learning - ) para lhe ajudar a começar caso você não esteja familiarizado com essa linguagem. A parte de intodução a ML foi desenvolvida para dar aos interessados conhecimento sobre algumas das ferramentas e abstrações que fundamentam o ML.




Todos os requisitos e instruções passo-a-passo podem ser encontraos no teeny-tiny_castle. Lá você irá encontrará uma série de tutoriais, exemplos, e ferramentas para trabalhar com questões relacionadas a:


Ética da IA (Diretrizes, Governaça, Regulamentação, P&D).


Sustentabilidade no desenvolvimento de grandes modelos (como medir e quantificar a pegada de carbono de modelos treinados por ML).


Interpretabilidade e robustez em visão computacional (ferramentas para XAI e Adversarial ML).


Interpretabilidade e Robustez em PLN (LIME para PNL, Playgrounds para engenharia de prompt, exemplos de text mining).


Interpretabilidade na classificação e predição com dados tabulares (como explicar classificações divergentes de modelos desenvolvidos por ML).


Equidade em aprendizagem de máquina (como medir, quantificar e remediar a discriminação algorítmica).


Segurança sistémica (como organizações devem se coordenar para proteger e preservar a sua infra-estrutura de informação).



Este repositório é um trabalho em progresso sendo construído como parte da iniciativa RAIES (Rede de Inteligência Artificial Ética e Segura), um projecto apoiado pela FAPERGS (Fundação de Amparo à Pesquisa do Estado do Rio Grande do Sul). Caso você tenha interesse em colaborar com o projeto, contate-nos!

5 visualizações0 comentário

Posts recentes

Ver tudo