Pular para o conteúdo
Even3

Responsabilidade algorítmica: quem responde pelos erros da IA?

Trecho de 1 min 58 s de Inteligência Artificial: estado atual, perspectivas e desafios, gravado no evento X Simpósio de Pesquisa e Inovação do IF Sudeste MG - Campus São João del-Rei e III Feira de Startups das Vertentes.

Assistir à gravação completaNo Even3 Conteúdos · 1 h 53 min

Sobre este trecho

O palestrante analisa as complexidades de atribuir culpa quando um algoritmo toma decisões enviesadas ou discriminatórias. Ele discute como fatores como anunciantes, desenvolvedores e o comportamento do próprio mercado interagem nessas falhas.

Vai de a da gravação.

O que é dito neste trecho

Por quê? Alguma hora, alguma coisa vai dar errado e aí, quem é o culpado? Vamos pegar um outro exemplo aqui que ele não é um crime como o caso do racismo que eu falei, mas ele é algo que cada vez mais vem sendo combatido na sociedade que é chamado sexismo, tá? Então houve, né, anúncios em uma máquina de busca para empregos de alta remuneração são mostrados mais para homens do que para mulheres. Então isso é um fato. Ou seja, alguma auditoria, alguma coisa assim avaliou, né, aqueles anúncios e viu que a empresa tal ela mostrava mais os anúncios dos empregos de cargos de gerência e alta direção mais para homens do que para mulheres. Mas vamos entender de quem que seria a culpa nesse caso, né? Vamos lá. Bom, a primeira primeira potencial culpado aqui é o próprio anunciante, né? O anunciante é machista, falou assim, ó, eu quero mais homem do que mulher. Tradicional, né? Até agora nada demais, ou seja, o o o o resto do pessoal cumpriu a ordem, né? A segunda questão é que o sistema foi implementado assim. Então nós tínhamos lá uma um desenvolvedor de software machista que colocou lá uma ponderação no sistema que, de alguma maneira, iria beneficiar homens e prejudicar mulheres. Também razoavelmente fácil de detectar, tá? Nós temos um que é muito mais complicado, né, e que aí vai nessas questões que eu venho falando. O sistema reage à oferta e demanda percebida. Então, na verdade, nem o anunciante era machista, nem o desenvolvedor era machista, mas, por exemplo, homens tendem a aplicar mais em anúncios de emprego ou mulheres são alvos mais populares porque clicam mais em geral nos anúncios. Ou seja, o custo de anunciar para uma mulher é mais alto do que o custo de anunciar para um homem.

Outros trechos deste conteúdo