Vigilância de Segurança da IA: P&D para Inteligência Artificial Avançada (2020)
Updated: Nov 11, 2021
Atualmente, existem diversos projetos ativos que buscam desenvolver Inteligência Artificial (IA) avançada.
Aqui, definiremos IA avançada como:
Inteligência Artificial Geral (IAG): Um sistema de IA com amplas capacidades de inteligência. Inteligência sendo definida como “a capacidade de um agente de atingir objetivos em uma ampla gama de ambientes” (Legg & Hutter, 2007).
Capacidade de generalização é usualmente caracterizada como um dos mais sofisticados aspectos do fenômeno de inteligência, algo que nossos sistemas de IA modernos ainda não são capazes de apresentar com eficiência.
IA a nível humano: Um sistema de IA com capacidades equiparáveis a de um ser humano. É importante ressaltar que um sistema de IA não necessariamente precisa possuir o mesmo tipo de inteligência que a nossa. IAG poderia ser tão avançada como humanos, mas com um tipo de inteligência bastante diferente, i.e., um tipo de inteligência diferente da cognição humana (Goertzel, 2014).
Superinteligência: Termo cunhado e proposto por Irving J. Good: “Que uma máquina ultra inteligente seja definida como uma máquina que pode superar de longe todas as atividades intelectuais de qualquer homem, por mais inteligente que seja” (Good, 1965, p. 33).
Em 2017, Baum (2017) identificou 45 projetos de P&D com os objetivos de desenvolver IA avançada. Dos 45 projetos revisados, apenas 13 possuíam envolvimento ativo com a área de segurança, enquanto que a grande maioria não especificava nenhum tipo de pesquisa voltada para a área de segurança da IA.
Fitzgerald et al. (2020) atualizaram os achados de Baum (2017), aumentando a contagem de projetos para 72 projetos de P&D, ativos, focados em desenvolver IA avançada. Dos 72 projetos listados, apenas 18 possuem engajamento ativo com a área de segurança da IA.
A tabela abaixo trata-se de um resumo dos achados de Fitzgerald et al. (2020), “2020 Survey of Artificial General Intelligence Projects for Ethics, Risk, and Policy”, um trabalho comissionado pelo Global Catastrophic Risk Institute. Os projetos citados nesta tabela são projetos que buscam, de alguma forma, produzir IA avançada (i.e., IAG, IA a nível humano, Superinteligência).
Nessa tabela se encontram:
O nome do Projeto (com link para sua página);
País/líder que o sedia;
Instituição responsável (Acadêmica/Corporação Privada/Corporação Pública/Governamental/ONG);
Se tal projeto possui vínculos com o setor Militar;
Se o projeto é de Código aberto;
O tamanho do projeto (Pequeno/Médio/Grande);
Engajamento com a área de Segurança da IA (Não especificado/Moderado/Ativo/Desdenhoso*).
Referências da Tabela
https://www.researchgate.net/project/Artificial-General-Intelligence-Brain-AGI-Brain.
https://web.archive.org/web/20180513230636/http://brain2bot.tech/.
Indisponível.
https://sites.google.com/site/drronsun/clarion/clarion-project.
https://www.microsoft.com/en-us/research/lab/microsoft-research-ai.
Cerenaut Research: De acordo com David Rawlinson, pesquisador principal da Cerenaut Research: “Não estamos preocupados com "maximizadores de clipes de papel" ou viradas traiçoeiras a lá Skynet. Apesar das boas intenções, grupos focados em Segurança da IA, como o MIRI, podem vir a causar mais danos do que benefícios ao focar o debate público nos riscos existenciais mais distantes da IA, distraindo-nos dos riscos e danos imediatos que estão sendo perpetrados neste momento através de IA e aprendizagem de máquina”.
HTM: Jeffrey Hawkins, pesquisador líder do projeto HTM, descarta preocupações relacionadas a IAG, afirmando que: “Não vejo a inteligência de máquina representando qualquer ameaça à humanidade”.
Omega: Eray Özkural, fundador da corporação Omega, descreve segurança da IA e riscos relacionados a IAG como “cômicos” e “ilusões esquizofrênicas”.
Sanctuary AI: Suzanne Gildert, fundadora da Sanctuary AI, em uma entrevista de vídeo, diz: “Eu não vejo [AGI] como uma ameaça à humanidade, mas como um espelho de nossa civilização, algo que nos permitirá fazer perguntas profundas sobre nós mesmos”.
Se você tem interesse em advocar pelo banimento das armas autônomas, e a separação da indústria da IA do Setor Militar, acesse Campaign To Stop Killer Robots. Armas autônomas jamais devem(deveriam) ser criadas.
Nicholas Kluge Corrêa
Presidente da AIRES na PUCRS
Mestre em Engenharia Elétrica e Doutorando em Filosofia (PUCRS)
nicholas.correa@acad.pucrs.br, ORCID: 0000-0002-5633-6094
Referências
Fitzgerald, M., Boddy, A., & Baum, S. B. (2020). 2020 Survey of Artificial General Intelligence Projects for Ethics, Risk, and Policy. Global Catastrophic Risk Institute Technical Report 20-1.
Baum, S. (2017). A Survey of Artificial General Intelligence Projects for Ethics, Risk, and Policy. Global Catastrophic Risk Institute, Working Paper, 1-17.
Legg, S., & Hutter, M. (2007). Universal Intelligence: A Definition of Machine Intelligence. Minds and Machines, 17 (4), 391–444. doi:10.1007/s11023-007- 9079-x.
Goertzel, B. (2014). Artificial general intelligence: Concept, state of the art, and future prospects. Journal of Artificial General Intelligence, 5(1), 1-48. doi: 10.2478/jagi-2014-0001.
Good, I. (1965). Speculations concerning the first ultraintelligent machine. In Academic Press. Advances in Computers, 6, 31-88. doi:10.1016/S0065-2458(08)60418-0.