A importância da explicabilidade na Inteligência Artificial
Trecho de 1 min 20 s de Palestra#05 - Robótica de Baixo custo e IA no Ensino de Computação, gravado no evento Week-IT 2020.
Assistir à gravação completaNo Even3 Conteúdos · 2 h 24 minSobre este trecho
Discute o conceito de Explainable AI e os riscos da perda de controle e confiança em sistemas de caixa preta.
Vai de a da gravação.
O que é dito neste trecho
Acredita-se atualmente, é um presente, que esse controle a gente consegue com explicabilidade. Então a DARPA, um setor de inteligência e segurança muito conhecido nos Estados Unidos, cunhou o termo chamado explainable AI, que nada mais é do que uma tentativa de explicar tudo aquilo que está está por trás de uma IA que se usa em um determinado sistema. Essa é uma maneira de tentar controlar. O que isso significa? Vamos supor que a gente tenha um sistema de IA para diagnóstico médico e aí se você roda, por exemplo, um exercício um exercício uma um mecanismo qualquer que a gente chama de caixa preta, são mecanismos que a gente não consegue eh, interpretar muito bem. E aí esse mecanismo fala para você, olha, essa pessoa tá doente, faça isso e isso e isso. Se o médico questionar, mas por que e o seu sistema não souber responder por que, ele está fadado ao fracasso, porque você começa a perder a confiança, você não tem controle sobre aquele sistema. E isso tem causado um alvoroço em tudo quanto é lugar, porque atualmente o que a gente bem tem são sistemas com respostas prontas, mas sem explicabilidade.
Outros trechos deste conteúdo

As quatro formas de definir Inteligência Artificial
Trecho de a da gravação

O primeiro inverno da IA e os sistemas especialistas
Trecho de a da gravação