Vieses algorítmicos e a importância das ciências humanas na IA
Trecho de 1 min 46 s de Cidades inteligentes e impacto da transformação digital, gravado no evento I Semana de Responsabilidade Social.
Assistir à gravação completaNo Even3 Conteúdos · 1 h 16 minSobre este trecho
Apresentação de um estudo sobre inteligência artificial na justiça americana para exemplificar como a falta de diversidade gera algoritmos com vieses discriminatórios.
Vai de a da gravação.
O que é dito neste trecho
Aí ela foi fazer um trabalho, Jone, que é o seguinte, ela estudou uma solução robótica americana chamada Compass, que há 15 20 anos já tá 15 anos 16 anos já tem utilizado nos Estados Unidos. O que é? É um algoritmo, um robô que ajuda o juiz na dosimetria da pena. Para quem é direito sabe o que é isso, né? Calcular a pena. Aí o que é que ela que esse robô faz, essa inteligência artificial faz? Ela calcula um para dizer se o cara tem a possibilidade maior ou menor de de ser reincidente. Quanto maior a sua possibilidade de ser reincidente, aí ela aumenta sua pena para você ficar mais longe da sociedade. É lógico, né? Aí o que que eles fizeram? Pegaram toda a estrutura de dados e de sentenças americanas, analisaram, e eles aplicam o questionário a aos aos aos réus. E aí um grupo de pesquisa americana independente, chamado ProPublica, o que que eles fizeram? Eles estudaram 10.000 casos a posteriori à aplicação da da do Compass. Identificaram o quê? Que os robôs eram racistas. O que é que eles faziam? Eles aumentavam muito o rating além do que era para ser do risco de de reincidência das pessoas negras, e reduziam os das pessoas brancas. O que é que aconteceu com isso? Houve má fé aí? Não. Não houve isso. O que houve foi o seguinte, foi que no ambiente de elaboração faltou gente com de outras áreas. Faltou um filósofo, faltou um advogado que tinha visão de ética, faltou diversidade, faltou humanista. Então, assim, vai ter cada vez mais espaço para a área de humanas dentro desse mundo de inteligência artificial e nesse mundo plural e multidisciplinar que vem pela frente. Tá certo?
Outros trechos deste conteúdo

Planejamento urbano básico antes da tecnologia
Trecho de a da gravação

Governança digital e ecossistema colaborativo
Trecho de a da gravação