Pular para o conteúdo
Even3

O que é explicabilidade em inteligência artificial e sua importância

Trecho de 1 min 44 s de Palestra: Aplicações da Inteligência Artificial no Judiciário brasileiro, gravado no evento II Congresso Brasileiro Interdisciplinar de Ciência e Tecnologia.

Assistir à gravação completaNo Even3 Conteúdos · 53 min

Sobre este trecho

Entenda o conceito de explicabilidade na IA e por que é essencial que algoritmos complexos justifiquem suas decisões aos usuários finais e desenvolvedores.

Vai de a da gravação.

O que é dito neste trecho

A explicabilidade é um ramo eh da pesquisa inteligência artificial que se dedica a estudar, né? E a desenvolver técnicas através das quais os sistemas de inteligência artificial complexos podem oferecer explicações um pouco mais simples para os seres humanos. Portanto, eh eh quando se quando você tem um algoritmo muito poderoso, que tem uma cadeia eh de raciocínio muito grande, operações matemáticas complexas, profundas, eh desenvolve-se nesse algoritmo uma funcionalidade onde ele é capaz de simplificar ou, entre aspas, de traduzir para o usuário final eh como é que ele chegou em determinada decisão. Isso seria extremamente desejável, principalmente quando a gente aplica a inteligência artificial em áreas sensíveis. Por exemplo, existem sistemas de inteligência artificial que fazem uma leitura eh do histórico eh de um viajante para determinar se ele pode ou não entrar em determinado país. E seria muito desejável, por exemplo, que por mais perfeito que fosse o algoritmo, que ele desse as razões por que que uma pessoa pode ou não pode entrar no país. E da mesma forma seria desejável que o algoritmo explicasse detalhadamente para uma pessoa que teve o seu crédito negado em um banco a razão pela qual eh ela não pôde eh eh eh eh não aprovou o crédito daquela pessoa. E por aí a gente pode imaginar uma série de utilidades eh onde a explicabilidade ofereceria, complementaria a decisão do algoritmo para eh oferecer uma justificativa para o usuário final.

Outros trechos deste conteúdo