Pular para o conteúdo
Even3

O problema da caixa-preta nas redes neurais artificiais

Trecho de 1 min 9 s de Evento de Abertura - Abrindo a Caixa Preta da IA - Mesa-Redonda, gravado no evento VI Semana de Ciência e Tecnologia do IFMG - Campus Itabirito.

Assistir à gravação completaNo Even3 Conteúdos · 2 h 1 min

Sobre este trecho

Entenda o conceito de caixa-preta na inteligência artificial e a opacidade dos modelos com milhões de parâmetros.

Vai de a da gravação.

O que é dito neste trecho

Nos levam ao tema principal aqui da palestra, que é esse problema da caixa preta, né? O termo caixa preta aqui, ele descreve um sistema com entradas e saídas observáveis, mas com processos internos que são difíceis de compreender, tá? Então em modelos baseados em redes neurais, nós temos conhecimento da entrada e da da saída do modelo, mas internamente o modelo é pouco compreensível, porque possui alta complexidade. Um exemplo aqui é a AlexNet, aquela rede que ganhou a competição em 2012, ela tem 650.000 neurônios e 60 milhões de parâmetros. Então eu tenho acesso a cada um desses parâmetros, mas é muito difícil inferir qualquer comportamento a partir dessa estrutura. Aqui nessa tabela, né, eu ilustro aqui alguns modelos eh participantes dessa competição e o número de parâmetros aqui, 60 milhões, mais de 100 milhões. Então isso ilustra esse problema eh de da caixa preta, né? Esses algoritmos de IA estão se tornando cada vez mais opacos, né?

Outros trechos deste conteúdo