Pular para o conteúdo
Even3

O risco de vieses discriminatórios em sistemas de inteligência artificial

Trecho de 1 min 45 s de Ministério Público Estadual e Litígio Estratégico em Direitos Humanos: por uma atuação institucional à luz da teoria crítica dos Direitos Humanos, gravado no evento XI Semana de Ciência e Tecnologia.

Assistir à gravação completaNo Even3 Conteúdos · 1 h 57 min

Sobre este trecho

O palestrante explica como algoritmos de IA podem reproduzir preconceitos humanos e cita o caso de um software judiciário enviesado.

Vai de a da gravação.

O que é dito neste trecho

E esses vieses que por vezes, né, e esses vieses que por vezes não forem tomados os devidos cuidados, eles podem ser transpostos para os algoritmos de inteligência artificial, já que a precisão da inteligência artificial depende da qualidade dos dados e dos parâmetros codificados nos algoritmos de treinamento. E por isso pode refletir os padrões de pensamento de quem os criou. Então, inclusive é um caso conhecido eh nos Estados Unidos em que tribunais por intermédio de um programa traçam o perfil de acusados de crimes e estabelecem a probabilidade de reincidência para fins de fins de fixação do regime de cumprimento da pena e de sua de sua duração. E a publica que realiza um, né, um trabalho de jornalismo investigativo nos Estados Unidos, testou um desses programas, o COMPAS, e descobriu que ele com frequência produz resultados errados, né, e além de ser tendencioso contra as pessoas negras, eh e então essa pesquisa revelou que o algoritmo utilizado tende a classificar erroneamente acusados negros como prováveis reincidentes e, por outro lado, enquadrar acusados brancos como indivíduos com baixo risco de reincidência. Então, eh quando os sistemas de inteligência artificial são alimentados de forma inadequada, a inteligência artificial pode eh se tornar, né, o que se denomina de enviesada e acabar reforçando eh padrões discriminatórios. E por isso, né, que se fala na necessidade da existência de diversidade nas equipes que desenvolvem os sistemas, já que os valores dessas pessoas podem interferir nesse enviesamento.

Outros trechos deste conteúdo