O caso COMPAS e os vieses raciais em algoritmos
Trecho de 1 min 58 s de Inteligencia Artificial e Ética, gravado no evento Semana Nacional de Ciência e Tecnologia - Campi Porto Velho Calama, Vilhena, Guajará -Mirim e Porto Velho Zona Norte.
Assistir à gravação completaNo Even3 Conteúdos · 1 h 29 minSobre este trecho
Explicação de como o software COMPAS apresentou viés racial no sistema judiciário americano, demonstrando que algoritmos aprendem preconceitos das bases de dados.
Vai de a da gravação.
O que é dito neste trecho
A gente tem um exemplo muito muito emblemático que ocorreu nos Estados Unidos nos últimos 4 anos eh no sistema de justiça criminal americano, né? Os os sistemas de justiça criminal americano adquiriu um software elaborado por uma empresa privada e esse software ele é chamado de COMPAS, né? E o COMPAS ele tinha uma função muito específica no sistema de justiça criminal norte-americano, né? O objetivo dele era eh a partir de uma base de dados prever se determinado sujeito que foi apreendido pela polícia teria uma predisposição a reincidir naquele crime. E a partir dessa dessa predição de reincidência, o algoritmo ajudava o juiz a fixar uma fiança maior ou menor para essas pessoas, né? E o que aconteceu, né? Foi feita uma auditoria por meio de uma organização eh americana e se descobriu que o algoritmo ele era racialmente enviesado, né? De modo que ele errava muito em favor de pessoas brancas e muito em desfavor de pessoas negras, né? O índice de eh eh de predição errada em relação a negros era superior a 60% né? Então quer dizer então que os algoritmos eh e isso é importante, por isso que é necessário a gente discutir ética no desenvolvimento e na pesquisa de inteligência artificial, os algoritmos eles não são neutros, né? Eh e eles não são neutros porque eh eles aprendem, especialmente aqui falando, né, dos algoritmos eh que eles partem de uma rede neural de aprendizagem profunda e de aprendizagem de máquina, eles aprendem a partir de uma base de dados onde se reconhecem padrões e onde se fazem correlações entre esses dados, né?
Outros trechos deste conteúdo

Diretrizes éticas da OCDE e a transparência em IA
Trecho de a da gravação

O papel da inteligência artificial na segurança cibernética
Trecho de a da gravação