Pular para o conteúdo
Even3

Vieses algorítmicos em modelos de inteligência artificial

Trecho de 1 min 27 s de Introdução ao Machine Learning para o Bem Social, gravado no evento XV Semana Nacional de Ciência e Tecnologia de Itacoatiara - XV SNCT-ITA.

Assistir à gravação completaNo Even3 Conteúdos · 2 h 52 min

Sobre este trecho

O palestrante apresenta como preconceitos sociais podem ser refletidos em modelos de linguagem para detecção de discurso de ódio.

Vai de a da gravação.

O que é dito neste trecho

Pode parecer um problema não tão crítico, né? Esse exemplo, mas a gente sabe que nós, seres humanos, temos um histórico de não desenhar, não tomar decisões baseado na necessidade de todo mundo. A gente acaba eh tomando decisões baseado num em um grupo de pessoas, né? Então aqui a gente tem um caso mais crítico, que é a gente precisa avaliar discurso de ódio na web, né? Para tentar não deixar que esses discursos se propaguem. E aí foi criado um modelo para isso. E aí quando você digitava no modelo eu sou hétero, né? Ele dava uma taxa que muito pequena, que é de 0,04, ou seja, não tinha probabilidade nenhuma de ser um discurso de ódio. E quando você escrevia eu sou gay, né? Que não tem nada de de discurso de ódio, esse mesmo modelo pegava que tinha uma probabilidade de quase 90% de ser um discurso de ódio, mas, pô, qual que que esse tem diferente desse? É a mesma frase, eu só mudei o gênero. Não deveria ser, né? Mas eh por algum problema do meu dado ou por alguma forma que eu criei esse modelo, eu tô colocando aqui um discurso homofóbico, né? Eh tô criando um modelo que eu poderia caracterizar ele como homofóbico. Então eu não quero isso, não quero levar para o modelo um preconceito da sociedade. Então como que eu crio modelos que de fato são bons, né?

Outros trechos deste conteúdo