Inteligência Artificial e racismo nos algoritmos
Gravado no evento XIV Semana Acadêmica - VII Semana da Matemática - XIII Jornada de Iniciação Científica · 2 h 6 min de gravação
Trechos em vídeo

O que são algoritmos na prática
Trecho de a da gravação

O mito da neutralidade dos algoritmos
Trecho de a da gravação

Reconhecimento facial e viés racial na segurança pública
Trecho de a da gravação
Sobre o conteúdo
A atividade 'Inteligência Artificial e racismo nos algoritmos', inserida na programação da XIV Semana Acadêmica - VII Semana da Matemática - XIII Jornada de Iniciação Científica do IFRJ Campus Paracambi, tem início com a apresentação conduzida pelo professor Pedro Grabois. Ele introduz a palestrante Bianca Kremer, professora e pesquisadora da área de Direito e Tecnologia, destacando a importância do debate sobre tecnologias digitais articuladas à luta antirracista.
Ao assumir a palavra, Bianca Kremer delimita seu lugar de fala como mulher negra do Sul Global e situa sua abordagem a partir do campo regulatório do Direito. Em seguida, resgata a evolução conceitual da inteligência artificial desde a década de 1950, pontuando a ausência de consenso terminológico e as limitações de definir a IA apenas como imitação da inteligência humana. Explica o funcionamento do aprendizado de máquina (machine learning) e do aprendizado profundo (deep learning), conceituando algoritmos como sequências estruturadas de instruções implementadas em linguagem computacional.
A palestrante desconstrói o mito da neutralidade tecnológica ao enfatizar que todo sistema técnico carrega intencionalidades econômicas, sociais e valores de seus desenvolvedores. Examina a economia política das Big Techs e o papel dos bancos de dados como ativos corporativos protegidos pelo segredo de negócio. Nesse contexto, debate as denúncias de influenciadores negros sobre filtros de engajamento no Instagram e a dificuldade de auditoria científica devido à opacidade proprietária das plataformas.
Apresentam-se casos paradigmáticos de racismo algorítmico, como as pesquisas de Joy Buolamwini no MIT e os dados da Rede de Observatórios da Segurança (projeto Panóptico, coordenado por Pablo Nunes), que revelam que 90,5% das pessoas presas por monitoramento facial no Brasil são negras, com taxas críticas de falsos positivos. São comentadas também iniciativas como a plataforma PretaLab, as ações judiciais contra redes sociais por exploração da misoginia e racismo, as falhas de corte fotográfico automatizado e os algoritmos de policiamento preditivo nos Estados Unidos.
Na conclusão e na etapa de perguntas e respostas com os participantes, discute-se a eficácia da LGPD e do GDPR europeu, a modelagem discriminatória em scores de crédito e os limites das políticas corporativas de diversidade e ética em IA. Bianca Kremer sustenta que a superação do racismo algorítmico não reside no tecnicismo nem na mera assimilação a estruturas neoliberais, mas no resgate epistemológico de autoras como Lélia Gonzalez, na valorização de tecnologias ancestrais de resistência e na construção autônoma de futuros possíveis afrocentrados.
O que é abordado
- Abertura e apresentação da palestrante
- Introdução: lugar de fala e regulação tecnológica
- Conceitos de Inteligência Artificial e Machine Learning
- O que são algoritmos e o mito da neutralidadeTrecho de 1 min 31 sTrecho de 1 min 50 s
- Economia de dados, Big Techs e plataformas digitais
- Casos empíricos de racismo algorítmico e reconhecimento facialTrecho de 1 min 33 s
- Iniciativas de resistência, representatividade e denúncias
- Encarceramento em massa, sistema penal e policiamento preditivo
- Possíveis saídas: afrocentricidade e tecnologias ancestrais
- Debate e perguntas da audiência
- Encerramento
Dúvidas que o conteúdo responde
Por que a tecnologia e os algoritmos não são neutros?
Porque todo algoritmo é desenvolvido a partir de escolhas, intencionalidades econômicas e contextos sociais de quem o programa ou da empresa proprietária. Além disso, os sistemas de IA aprendem a partir de bancos de dados históricos que refletem e replicam as desigualdades e opressões estruturais da sociedade.
Quais impactos o reconhecimento facial tem gerado na segurança pública brasileira?
Dados de monitoramento da Rede de Observatórios da Segurança (projeto Panóptico) apontaram que 90,5% das pessoas presas por reconhecimento facial no Brasil foram pessoas negras (pretas e pardas). O sistema apresenta frequentes falsos positivos e aprofunda o encarceramento em massa decorrente do racismo estrutural.
A inclusão de diversidade nas empresas de tecnologia resolve o racismo algorítmico?
A diversidade em equipes é um passo relevante, mas insuficiente se utilizada apenas como ação de marketing ou dentro da lógica predatória das Big Techs. Sem enfrentar a concentração econômica dos oligopólios digitais e as estruturas históricas do capitalismo racial, a diversidade pontual não altera a essência excludente dessas tecnologias.
O que a palestrante propõe como saída contra o racismo nos algoritmos?
A palestrante defende o resgate epistemológico da ancestralidade e da amefricanidade, com base em referências como Lélia Gonzalez e Abdias Nascimento. Propõe a construção de tecnologias de resistência pensadas nos próprios termos da população negra do Sul Global, ultrapassando a mera tentativa de integração aos modelos tecnológicos do Norte Global.
Assuntos
Palestrantes

Bianca Kremer
Palestrante
- Professora e pesquisadora em Direito e Tecnologia. - Coordenadora acadêmica do Instituto Dannemann Siemsen. - Professora do Instituto Infnet e Universidade Federal Fluminense. - Foi visiting Fellow Na Universidade de Leiden (Holanda). - Doutoranda em Direito pela PUC Rio.
Outros conteúdos deste evento
Gravados no evento XIV Semana Acadêmica - VII Semana da Matemática - XIII Jornada de Iniciação Científica
Computação e culturas digitais
Gravado no evento XIV Semana Acadêmica - VII Semana da Matemática - XIII Jornada de Iniciação Científica
A palestra 'Computação e culturas digitais', apresentada pelo professor Cilmar Santos de Castro, debate as transformações sociais provocadas pela evolução tecnológica e pela…
Ver resumo e capítulosEducações e Presenças online: múltiplos desafios
Gravado no evento XIV Semana Acadêmica - VII Semana da Matemática - XIII Jornada de Iniciação Científica
A palestra 'Educações e Presenças online: múltiplos desafios', ministrada por Adriana Rocha Bruno, aborda as transformações pedagógicas e sociais intensificadas pela pandemia de…
Ver resumo e capítulosMulheres na Matemática
Gravado no evento XIV Semana Acadêmica - VII Semana da Matemática - XIII Jornada de Iniciação Científica
A mesa-redonda Mulheres na Matemática reuniu professoras e pesquisadoras para discutir a representatividade e a trajetória feminina no campo das Ciências Exatas. Durante a…
Ver resumo e capítulosDesenvolvimento de app no esporte e atividade física: relato de experiência
Gravado no evento XIV Semana Acadêmica - VII Semana da Matemática - XIII Jornada de Iniciação Científica
A mesa-redonda aborda o desenvolvimento de aplicativos voltados para o esporte e a atividade física a partir de relatos de experiência acadêmica no IFRJ e no IFC. São…
Ver resumo e capítulosSistemas algorítmicos, Modulação nas Plataformas Online
Gravado no evento XIV Semana Acadêmica - VII Semana da Matemática - XIII Jornada de Iniciação Científica
O professor Sérgio Amadeu da Silveira discute os impactos tecnopolíticos da modulação algorítmica e a extração massiva de dados pessoais pelas grandes plataformas digitais. Ele…
Ver resumo e capítulosUm olhar sobre os desafios no cotidiano da escola: limites e possibilidades em tempos de incertezas
Gravado no evento XIV Semana Acadêmica - VII Semana da Matemática - XIII Jornada de Iniciação Científica
A professora e gestora Eliane Ferreira discute as vivências, os desafios e as possibilidades da gestão escolar pública na rede municipal do Rio de Janeiro. A palestrante resgata…
Ver resumo e capítulosPodcast para divulgação científica
Gravado no evento XIV Semana Acadêmica - VII Semana da Matemática - XIII Jornada de Iniciação Científica
Nesta palestra do evento XIV Semana Acadêmica - VII Semana da Matemática - XIII Jornada de Iniciação Científica, o divulgador científico Sidcley Lyra aborda o universo dos…
Ver resumo e capítulosUso de simuladores na pesquisa em saúde
Gravado no evento XIV Semana Acadêmica - VII Semana da Matemática - XIII Jornada de Iniciação Científica
A médica e cientista Andrea Furlan apresenta a estrutura e as pesquisas do KITE Research Institute, vinculado ao Toronto Rehabilitation Institute da University Health Network…
Ver resumo e capítulos






