A importância da interpretabilidade e os vieses em sistemas de IA
Trecho de 1 min 24 s de Evento de Abertura - Abrindo a Caixa Preta da IA - Mesa-Redonda, gravado no evento VI Semana de Ciência e Tecnologia do IFMG - Campus Itabirito.
Assistir à gravação completaNo Even3 Conteúdos · 2 h 1 minSobre este trecho
Veja exemplos de como algoritmos de concessão de crédito e justiça criminal podem reproduzir vieses existentes nos dados.
Vai de a da gravação.
O que é dito neste trecho
Aqui alguns exemplos interessantes, né, que envolvem essa questão de da importância da interpretabilidade no uso de algoritmos de IA na nossa sociedade, né? Por exemplo, algoritmos para previsão de risco de crédito em instituições financeiras. Então eu posso ir numa instituição financeira, solicitar um empréstimo eh baseado no meu perfil, nos meus dados históricos, eh eu posso ter ser recusado, né? Posso ter meu crédito recusado e eu não tenho uma explicação ou uma compreensão de por que que essa decisão foi tomada. Aqui um outro exemplo, né, eh conhecido também, o Departamento de Justiça americano, ele eh solicitou o desenvolvimento de um sistema de IA que fosse capaz de prever a reincidência de crime em em casos de de condicional. E pouco depois os pesquisadores eh perceberam, né, que esse sistema apresentava um viés racial. Ou seja, ele tinha uma maior probabilidade de negar a condicional, ou seja, dar uma alta probabilidade de reincidência a crime aos sujeitos da raça negra, tá? E por e por que esse viés, né? Principalmente esse viés está no no no algoritmo de IA? Não, ele está nos nos dados que foram usados para treinar esse sistema de IA, né?
Outros trechos deste conteúdo

O problema da caixa-preta nas redes neurais artificiais
Trecho de a da gravação

O perigo dos exemplos adversariais na inteligência artificial
Trecho de a da gravação