Pular para o conteúdo
Even3

Vieses cognitivos e discriminação algorítmica

Trecho de 2 min de Inteligência Artificial e Decisão Processual, gravado no evento VI Semana Acadêmica.

Assistir à gravação completaNo Even3 Conteúdos · 1 h 34 min

Sobre este trecho

O professor analisa como os preconceitos humanos acabam contaminando os sistemas inteligentes, citando o exemplo real do algoritmo Compas no processo penal.

Vai de a da gravação.

O que é dito neste trecho

A máquina é o suprassumo do sistema dois, é o racional. Mas aí o que que aconteceu? Começamos a descobrir que nós contaminamos as máquinas com os nossos vieses cognitivos, os nossos preconceitos contaminam a máquina e fazem com que a máquina não funcione de maneira satisfatória. Olha que caso interessante. Essa programadora, tá? Essa programadora do do MIT, ela desenvolveu um software de reconhecimento facial, que seria tipo um espelho da Branca de Neve, que olha o seu rosto e conversa depois com você, interage, né? A Joy Buolamwini, só que ela não percebeu um detalhe. Ela construiu o algoritmo, mas quando ela começou a testar o algoritmo, a máquina não enxergava ela, Joy. Se a Joy não colocasse essa máscara branca na cara, a máquina não a enxergava. E por que a máquina não enxergava? Porque a máquina dela era racista. A máquina não enxergava negros. Não enxergava. Não enxergava. Até determinado proporção de melanina a máquina via, é uma pessoa. Mas ela não via. E a Joy não fez por mal, ela é negra. Ela é negra, mas ela não percebeu que a máquina estava sendo absorvida com o preconceito e, consequentemente, ela era discriminatória. Aí a gente pensa, nossa, o caso da Joy é muito triste, né? Também que ela descobriu o erro. Mas olha isso aqui.

Outros trechos deste conteúdo