Pular para o conteúdo
Even3

A importância da explicabilidade na Inteligência Artificial

Trecho de 1 min 20 s de Palestra#05 - Robótica de Baixo custo e IA no Ensino de Computação, gravado no evento Week-IT 2020.

Assistir à gravação completaNo Even3 Conteúdos · 2 h 24 min

Sobre este trecho

Discute o conceito de Explainable AI e os riscos da perda de controle e confiança em sistemas de caixa preta.

Vai de a da gravação.

O que é dito neste trecho

Acredita-se atualmente, é um presente, que esse controle a gente consegue com explicabilidade. Então a DARPA, um setor de inteligência e segurança muito conhecido nos Estados Unidos, cunhou o termo chamado explainable AI, que nada mais é do que uma tentativa de explicar tudo aquilo que está está por trás de uma IA que se usa em um determinado sistema. Essa é uma maneira de tentar controlar. O que isso significa? Vamos supor que a gente tenha um sistema de IA para diagnóstico médico e aí se você roda, por exemplo, um exercício um exercício uma um mecanismo qualquer que a gente chama de caixa preta, são mecanismos que a gente não consegue eh, interpretar muito bem. E aí esse mecanismo fala para você, olha, essa pessoa tá doente, faça isso e isso e isso. Se o médico questionar, mas por que e o seu sistema não souber responder por que, ele está fadado ao fracasso, porque você começa a perder a confiança, você não tem controle sobre aquele sistema. E isso tem causado um alvoroço em tudo quanto é lugar, porque atualmente o que a gente bem tem são sistemas com respostas prontas, mas sem explicabilidade.

Outros trechos deste conteúdo