Anais do Maipe

QUANDO O RACISMO ENCONTRA A COMPUTAÇÃO: IDENTIFICANDO FORMAS DE DISCRIMINAÇÃO RACIAL EM LLMS

Publicado em 08/04/2024 - ISBN: 978-65-272-0392-6

Link Todos os Trabalhos
Trabalho
Título do Trabalho
QUANDO O RACISMO ENCONTRA A COMPUTAÇÃO: IDENTIFICANDO FORMAS DE DISCRIMINAÇÃO RACIAL EM LLMS
Autores
  • Luiz Felipe dos Santos Anjos
  • Letícia de Carvalho Sousa
  • Érica de Oliveira dos Santos
  • Sanderson Molick
Modalidade
Resumo
Área temática
Humanas e Linguagens
Data de Publicação
08/04/2024
País da Publicação
Brasil
Idioma da Publicação
pt-BR
Página do Trabalho
https://www.even3.com.br/anais/vimaipe2023/776784-quando-o-racismo-encontra-a-computacao--identificando-formas-de-discriminacao-racial-em-llms
ISBN
978-65-272-0392-6
Palavras-Chave
inteligência Artificial; Racismo algorítmico; LLMs; Questões sociais; Ética da Inteligência Artificial.
Resumo
Os grandes modelos de linguagem (também conhecidos como LLMs) se tornaram os grandes responsáveis pela popularização da IA nos últimos anos. Estes sistemas têm sido largamente utilizados para fins pedagógicos e educacionais em universidades, escolas e instituições de diversos tipos. No entanto, apesar de tais ferramentas serem capazes de lidar com um grande volume de dados através de diversas técnicas computacionais, ainda se faz necessário debater a qualidade da informação disponibilizada aos seus usuários, sobretudo o conjunto de princípios e diretrizes morais que orientam esses sistemas. Na literatura em torno da temática, diversos autores apontam que a perpetuação de estereótipos e crenças racistas pode ser um efeito colateral problemático de certos modelos computacionais. Por isso, vemos a importância do desenvolvimento de técnicas capazes de testar se os outputs gerados por tais sistemas são capazes de suportar crenças racistas ou outras formas de discriminação. Tendo isso em vista, nosso trabalho possui o objetivo de apresentar e desenvolver técnicas para avaliar o modo como os LLMs compreendem as formas de discriminação racial. O trabalho segue uma metodologia de testes baseada em prompts, a qual foi desenvolvida com a assistência do próprio LLM e que visa categorizar os comandos utilizados nesses chatbots para testar sua capacidade de compreensão sobre questões raciais. Nosso principal resultado é o desenvolvimento de uma biblioteca de prompts capazes de testar o modo como os LLMs raciocinam sobre as questões raciais.
Título do Evento
VI MAIPE - Mostra Acadêmica de Inovação, Pesquisa e Extensão do Campus Marabá Industrial
Cidade do Evento
Marabá
Título dos Anais do Evento
Anais do Maipe
Nome da Editora
Even3
Meio de Divulgação
Meio Digital

Como citar

ANJOS, Luiz Felipe dos Santos et al.. QUANDO O RACISMO ENCONTRA A COMPUTAÇÃO: IDENTIFICANDO FORMAS DE DISCRIMINAÇÃO RACIAL EM LLMS.. In: . Disponível em: https//www.even3.com.br/anais/vimaipe2023/776784-QUANDO-O-RACISMO-ENCONTRA-A-COMPUTACAO--IDENTIFICANDO-FORMAS-DE-DISCRIMINACAO-RACIAL-EM-LLMS. Acesso em: 13/05/2026

Trabalho

Even3 Publicacoes