A inteligência artificial e os desafios dos vieses algorítmicos
Trecho de 2 min de Mesa Redonda I - Desafios e problemáticas da Inteligência Artificial, gravado no evento Semana Nacional de Ciência e Tecnologia - IFRO-Campus Cacoal.
Assistir à gravação completaNo Even3 Conteúdos · 2 hSobre este trecho
O trecho debate a responsabilidade humana no treinamento de modelos de IA e como evitar reproduzir preconceitos e discriminações.
Vai de a da gravação.
O que é dito neste trecho
Se a gente treinar um modelo para que ele seja racista ele vai ser racista. Então, por exemplo, ah, se eu uma situação hipotética, se eu treinar lá um modelo que usa câmeras para identificar pessoas suspeitas e eu treinar ele com mais imagens de uma determinada cor de pele ele vai tender a reconhecer pessoas com aquela cor de pele como suspeitos mais vezes do que vai reconhecer pessoas de outras cores de pele. Então eh, tem toda a questão que o Fabrício falou ética por trás disso. Eu não acredito que é uma ameaça para o humano, mas a gente pode ter para a humanidade, mas a gente pode ter alguns problemas pontuais nesse sentido e isso por culpa do humano e não da inteligência artificial. Assim como a gente tem hoje racismo praticado por humanos e não pela inteligência artificial. Se esse mesmo grupo que pratica racismo treinar modelos para serem preconceituosos modelo vai refletir aquilo que ele foi treinado para fazer. Então é algo que a gente tem que discutir do ponto de vista ético e até legal, né? Eu participei na na própria semana Nacional de Ciência e Tecnologia de uma mesa redonda com o pessoal do Direito e a gente discutia essas questões, né? Que realmente o Direito vai ter que entrar muito fortemente e o governo também do ponto de vista de legislação para poder lidar com essas questões, né? Porque daqui a pouco de quem que é a culpa se um determinado modelo de inteligência artificial tá sendo preconceituoso? A culpa é de quem desenvolveu, a culpa é do modelo, não é de ninguém. Então são questões que ainda estão em aberto. Eu não acredito naquela ficção científica de que a inteligência artificial vai dominar o mundo do ponto de vista de escravizar o humano, por exemplo.
Outros trechos deste conteúdo

Manutenção tradicional versus manutenção preditiva com IA
Trecho de a da gravação

Como funciona o Support Vector Machine na prática
Trecho de a da gravação