O desafio da interpretabilidade em Deep Learning
Trecho de 1 min 41 s de Inteligência artificial: aplicações e desafios, gravado no evento JATI 2020.
Assistir à gravação completaNo Even3 Conteúdos · 2 h 27 minSobre este trecho
Explica o dilema entre a alta capacidade de generalização do aprendizado profundo e a dificuldade de compreender como modelos de 'caixa-preta' tomam decisões.
Vai de a da gravação.
O que é dito neste trecho
E aí vem um segundo problema, que é esse é um problema muito relevante, que é o problema da interpretabilidade. É possível explicar como é que a máquina chegou em tal resultado? Então imagina que um médico vai diagnosticar alguém e ele diz que aquele alguém tem uma doença gravíssima ah e que vai morrer em 1 semana se não tomar um remédio que tem fortíssimos efeitos colaterais. Você vai querer uma confirmação de que aquilo que foi dito está correto, de que faz sentido. Então você vai querer ir atrás de mais detalhes sobre como a máquina chegou naquela informação. E aí a gente agora começa a ter um trade-off entre essas duas coisas, tá? Por quê? Porque o deep learning, ele é quem conseguiu a maior capacidade de generalização, o maior parte dos problemas, o o o esses modelos de aprendizagem profunda, então que tem conseguido resultados mais expressivos nos problemas diversos de de de aprendizagem de máquina, são modelos que têm uma interferência humana muito baixa. Eles são modelos que aprendem inclusive quais são as características mais importantes a serem extraídas dentro de um determinado problema e a partir dessas características ainda, como classificá-las. Eh, por outro lado, por ele ser tão completo e tão autônomo e tão independente do ser humano no que ele escolhe para poder fazer o seu processo de classificação, ele é um modelo não interpretável. É o que a gente diria o modelo caixa preta. Então esse é um dos desafios hoje em dia que é você conseguir alcançar uma boa capacidade de generalização, mas ao mesmo tempo você conseguir entender por que aquele modelo chegou em tal resultado. Eh, isso também é chamado
Outros trechos deste conteúdo

Competências essenciais para trabalhar com Inteligência Artificial
Trecho de a da gravação

A base matemática fundamental para atuar em IA
Trecho de a da gravação