Mesa Redonda - ANALFABETISMO DIGITAL, INTELIGÊNCIA ARTIFICIAL E DIREITO À INCLUSÃO
Gravado no evento XVIII Congresso Internacional de Direitos Humanos · 1 h 22 min de gravação
Trechos em vídeo

O que são deepfakes e a facilidade de sua produção
Trecho de a da gravação

Machine learning, algoritmos e viés discriminatório
Trecho de a da gravação

Reconhecimento facial, filtros e etnocentrismo nos algoritmos
Trecho de a da gravação
Sobre o conteúdo
Esta atividade integra o XVIII Congresso Internacional de Direitos Humanos, trazendo a Mesa Redonda - ANALFABETISMO DIGITAL, INTELIGÊNCIA ARTIFICIAL E DIREITO À INCLUSÃO, coordenada pela moderadora Elaine Cler. O debate reúne exposições que examinam de maneira interdisciplinar os impactos das inovações computacionais, os vieses discriminatórios e os desafios educacionais e legais enfrentados pela sociedade contemporânea.
A primeira palestra aborda a discriminação algorítmica e os dados pessoais. Destacam-se conceitos de Big Data, inteligência artificial e aprendizado de máquina (machine learning), mostrando como modelos alimentados por pegadas digitais humanas tendem a reproduzir preconceitos e criar riscos individualizados. A expositora detalha a opacidade intrínseca aos algoritmos, comumente tratados como caixas pretas protegidas por segredo de negócio, e analisa o princípio da não discriminação previsto no artigo 6º da Lei Geral de Proteção de Dados (LGPD). Examinam-se as diferenças conceituais entre discriminação ilícita e discriminação abusiva sob a ótica constitucional da isonomia, a necessidade de mecanismos regulatórios técnicos e a garantia de revisão das decisões automatizadas.
Na sequência, a segunda apresentação foca os impactos jurídicos de ferramentas como os deepfakes e seus desdobramentos prejudiciais. Explica-se a evolução do mapeamento facial e redes neurais que tornaram a geração de vídeos e áudios sintéticos amplamente acessível. A análise ressalta a violação frontal ao direito à imagem, à privacidade e à formação da verdade pública, frisando a distinção entre a paródia protegida pela liberdade de expressão e condutas criminosas de difamação, manipulação política e fraudes com deepfake de voz. O palestrante também aborda a gravidade dos deep nudes contra mulheres, analisando tipificações como o artigo 216-A do Código Penal brasileiro e os desafios probatórios e de cadeia de custódia na investigação digital.
A terceira fala propõe uma reflexão a partir das desigualdades sociais e raciais históricas brasileiras, relacionando-as ao racismo estrutural e epistemológico. São apresentados indicadores demográficos, educacionais e de segurança pública para evidenciar a marginalização histórica da população negra e as disparidades de renda e representação política. Argumenta-se que o analfabetismo digital potencializa essas barreiras, acentuadas durante o ensino remoto na pandemia de COVID-19. Além disso, discute-se a manifestação de algoritmos racistas em redes sociais, bancos de imagens e sistemas de reconhecimento facial que resultam em prisões indevidas de pessoas negras, contrapondo avanços obtidos por leis de ações afirmativas.
Ao término das apresentações, os palestrantes participam de uma sessão de perguntas e respostas com a mediação da mesa. Os participantes discutem temas como a necessidade de transparência algorítmica frente ao poder moderador das grandes empresas privadas, a colaboração entre as áreas de computação e direito por meio de perícia e inteligência de fontes abertas (OSINT), e as diretrizes urgentes de investimento público em infraestrutura e formação para viabilizar a inclusão digital nas periferias escolares.
O que é abordado
- Abertura da Mesa Redonda e Apresentações Iniciais
- Discriminação Algorítmica e Dados PessoaisTrecho de 1 min 6 s
- Opacidade dos Algoritmos e Conceito de Discriminação
- LGPD: Discriminação Ilícita e Abusiva
- Limites Regulatórios, Revisão Automatizada e Ética
- Impactos Jurídicos dos Deepfakes e Violações de ImagemTrecho de 1 min 56 s
- Deepfakes de Voz e Deep Nudes: Limites do Direito Penal
- Desigualdades Estruturais, Históricas e Epistemológicas no Brasil
- Analfabetismo Digital e Políticas Afirmativas
- Algoritmos Racistas, Reconhecimento Facial e EtnocentrismoTrecho de 1 min 28 s
- Debates e Respostas às Perguntas do Público
- Considerações Finais e Encerramento da Mesa
Dúvidas que o conteúdo responde
Qual a diferença entre discriminação algorítmica ilícita e abusiva segundo a expositora?
A discriminação ilícita ocorre quando há expressa vedação jurídica ao tratamento diferenciado (por exemplo, discriminação em função de cor, raça, religião, nacionalidade, estado de gravidez na contratação ou uso de dados de saúde para seleção de risco). Já a discriminação abusiva é um conceito mais aberto, ligado à quebra do princípio da igualdade quando há uma diferenciação fortuita, injustificada ou desprovida de harmonia com o ordenamento jurídico.
O que são deepfakes e quais os principais riscos jurídicos associados?
Deepfakes são montagens em vídeo extremamente realistas geradas por algoritmos de aprendizado de máquina e redes neurais que mapeiam rostos a partir de fotografias e os inserem em outros vídeos. Seus maiores riscos jurídicos incluem a violação do direito à imagem, difamação, propagação em massa de desinformação, confissões falsas, criação de imagens íntimas não autorizadas (deep nudes) e fraudes por meio de clonagem vocal.
Como a legislação penal brasileira trata os deep nudes?
O Código Penal protege a vítima contra a montagem não autorizada no artigo 216-A, parágrafo único, punindo a alteração digital de imagens para incluir nudez. No entanto, apontou-se que o principal obstáculo na prática reside no processo de investigação tecnológica, custódia e identificação de metadados para localizar os responsáveis.
Como o racismo estrutural se reflete na inteligência artificial?
O racismo estrutural se manifesta por meio de algoritmos racistas treinados em bases de dados enviesadas, resultando em falhas graves como sistemas de reconhecimento facial que levam à prisão indevida de homens negros inocentes, filtros de redes sociais que reforçam padrões eurocêntricos de beleza e diminuição da visibilidade de criadores de conteúdo negros nas plataformas digitais.
Assuntos
Palestrantes

Profa. Dra. Eugenia Portela de Siqueira Marques
Palestrante
Doutora em Educação/ UFSCar (2010). Atualmente é Docente na Faculdade de Educação da Universidade Federal de Mato Grosso do Sul (UFMS). Integra o corpo docente da Pós-Graduação em Educação da Universidade Federal da Grande Dourados (UFGD) e da Universidade Federal de Mato Grosso do Sul. É membro da Associação Nacional de Pós-graduação e Pesquisa em Educação (ANPED) e Associação Brasileira de Pesquisadores Negros (ABPN). Coordenadora do GT 21 da (ANPED) ? Educação e Relações étnico-raciais (2018-2020). Líder do Grupo de Estudos e Pesquisas sobre Educação, Relações étnico-raciais e Formação de…
Juliana Falci Sousa Rocha Cunha
Palestrante
Raphael Sérgio Rios Chaia Jacob
Palestrante
Elaine Cler Alexandre dos Santos
Coordenador(a)
Outros conteúdos deste evento
Gravados no evento XVIII Congresso Internacional de Direitos Humanos
Mesa Redonda - A AGENDA 2030: INTERDEPENDÊNCIA DOS ODS E DOS DESCA
Gravado no evento XVIII Congresso Internacional de Direitos Humanos
A mesa-redonda discute a interdependência entre a Agenda 2030, os Objetivos de Desenvolvimento Sustentável (ODS) e os Direitos Econômicos, Sociais, Culturais e Ambientais…
Ver resumo e capítulosApresentação dos vídeos de resumos
Gravado no evento XVIII Congresso Internacional de Direitos Humanos
A mesa redonda realiza a abertura e apresentação dos vídeos de resumos do XVIII Congresso Internacional de Direitos Humanos, modalidade adaptada para o meio virtual devido à…
Ver resumo e capítulosMesa Redonda - DIREITO À IGUALDADE, DESIGUALDADE DE CLASSE E CRISE SISTÊMICA
Gravado no evento XVIII Congresso Internacional de Direitos Humanos
O vídeo registra a Mesa Redonda - DIREITO À IGUALDADE, DESIGUALDADE DE CLASSE E CRISE SISTÊMICA durante o XVIII Congresso Internacional de Direitos Humanos. A primeira exposição…
Ver resumo e capítulosMesa Redonda - DIREITO À CULTURA E POVOS TRADICIONAIS
Gravado no evento XVIII Congresso Internacional de Direitos Humanos
A mesa-redonda discute o direito à cultura e a luta por direitos humanos dos povos indígenas, comunidades quilombolas e camponeses no Brasil. Givânia Silva aborda a trajetória…
Ver resumo e capítulosMesa Redonda - DESCA E FLUXOS MIGRATÓRIOS
Gravado no evento XVIII Congresso Internacional de Direitos Humanos
A mesa redonda discute as intersecções entre Direitos Econômicos, Sociais, Culturais e Ambientais (DESCA) e os fluxos migratórios contemporâneos no Brasil. João Freitas de Castro…
Ver resumo e capítulosMesa Redonda - AS DESIGUALDADES DE GÊNERO E O GÊNERO EM DISPUTA
Gravado no evento XVIII Congresso Internacional de Direitos Humanos
A mesa-redonda reúne pesquisadoras para debater desigualdades de gênero, raça e poder no XVIII Congresso Internacional de Direitos Humanos. A primeira exposição analisa os…
Ver resumo e capítulos




