Evento de Abertura - Abrindo a Caixa Preta da IA - Mesa-Redonda
Gravado no evento VI Semana de Ciência e Tecnologia do IFMG - Campus Itabirito · 2 h 1 min de gravação
Trechos em vídeo

O problema da caixa-preta nas redes neurais artificiais
Trecho de a da gravação

O perigo dos exemplos adversariais na inteligência artificial
Trecho de a da gravação

A importância da interpretabilidade e os vieses em sistemas de IA
Trecho de a da gravação
Sobre o conteúdo
O vídeo registra o Evento de Abertura - Abrindo a Caixa Preta da IA - Mesa-Redonda, promovido na VI Semana de Ciência e Tecnologia do IFMG - Campus Itabirito. A primeira parte consiste na palestra proferida pelo professor Frederico Gadelha Guimarães, que explora a história da inteligência artificial desde a formulação do Teste de Turing em 1950, passando pelos períodos de otimismo e pelos chamados invernos da IA, até os marcos contemporâneos como o Deep Blue, robôs autônomos e sistemas de aprendizado profundo (deep learning).
O palestrante aprofunda a trajetória técnica das redes neurais artificiais, ilustrando o impacto do ImageNet Challenge a partir de 2012 com arquiteturas convolucionais profundas como a AlexNet, GoogleNet e ResNet. Compara os paradigmas da IA simbólica (sistemas especialistas baseados em regras explícitas) e da IA conexionista (aprendizado de máquina estatístico), elucidando o surgimento do problema da caixa-preta, onde modelos complexos com milhões de parâmetros geram decisões de difícil interpretação humana.
Diante dessa opacidade, discute-se a necessidade de interpretabilidade e de Inteligência Artificial Explicável (XAI), abordando riscos associados a exemplos adversariais e vieses algorítmicos decorrentes de dados enviesados. São expostos casos reais de disparidades em sistemas de escore de crédito, predição de reincidência penal com viés racial, algoritmos de recorte de fotos e filtros de redes sociais. O palestrante também apresenta pesquisas do Laboratório MINDS da UFMG envolvendo regressão simbólica para explicação pós-hoc, inspeção de correias industriais por drones e reconhecimento de sinais de Libras com mapas de ativação e saliência, além de contextualizar investimentos estratégicos globais em IA.
Na segunda parte, abre-se uma mesa-redonda com docentes e pós-graduandos egressos de instituições mineiras, os quais compartilham suas pesquisas e refletem criticamente sobre as exigências de explicabilidade, regulação e proteção de dados (como o GDPR e a LGPD). Os debatedores contrapõem visões sobre o papel primordial da acurácia frente à transparência, a auditabilidade de sistemas de alto risco e o combate a preconceitos estruturais reproduzidos nos conjuntos de dados, respondendo a perguntas do público e concluindo sobre a indispensável união entre ciências exatas e humanidades.
O que é abordado
- Abertura e apresentação inicial
- Linha do tempo e marcos históricos da inteligência artificial
- Evolução das redes neurais e o desafio ImageNet
- IA Simbólica versus IA Conexionista
- O problema da caixa-preta e a necessidade da IA explicável (XAI)Trecho de 1 min 9 s
- Vieses algorítmicos, discriminação e exemplos adversariaisTrecho de 1 min 55 sTrecho de 1 min 24 s
- Casos de pesquisa do Laboratório MINDS: drones, Libras e modelos locais
- Investimentos em ciência e considerações finais da palestra
- Apresentação dos participantes da mesa-redonda
- Debate: a importância e os limites da explicabilidade da IA
- Perguntas do público: aprendizado federado, fake news e legislação
- Considerações finais e encerramento
Dúvidas que o conteúdo responde
O que caracteriza o problema da caixa-preta na inteligência artificial?
O termo caixa-preta descreve sistemas cujas entradas e saídas são observáveis, mas cujos processos internos de decisão são excessivamente complexos e difíceis de compreender por seres humanos, comum em redes neurais profundas com milhões de parâmetros ajustados estatisticamente.
Como os vieses discriminatórios surgem em modelos de aprendizado de máquina?
Os modelos aprendem correlações a partir dos dados fornecidos para treinamento. Quando os dados históricos de entrada refletem preconceitos ou desigualdades sociais estruturais (como disparidades de raça ou gênero), o algoritmo reproduz e por vezes amplifica esses padrões injustos.
O que são exemplos e imagens adversárias?
São perturbações imperceptíveis ao olho humano adicionadas a uma entrada (como imagens ou arquivos de áudio) que forçam o modelo de rede neural a realizar uma classificação totalmente errada com alta taxa de confiança, representando um risco de segurança relevante em sistemas críticos como carros autônomos.
Qual a principal diferença entre IA simbólica e IA conexionista?
A IA simbólica opera com base em regras lógicas explícitas inseridas por especialistas no domínio de conhecimento, tendo maior transparência mas dificuldade de escalar para tarefas complexas. Já a IA conexionista (aprendizado de máquina) extrai regras e padrões estatísticos diretamente de grandes bases de dados, oferecendo alto desempenho em visão e linguagem, porém gerando modelos opacos.
Assuntos
Palestrantes

Patrícia de Oliveira e Lucas
Palestrante
Patrícia é formada em Sistemas de Informação pela Universidade Estadual de Montes Claros (UNIMONTES), onde também completou uma especialização em Engenharia de Sistemas. Em 2011, ingressou no Instituto Federal do Norte de Minas Gerais (IFNMG), integrando a equipe de professores efetivos a partir de 2013 no Campus Salinas. Em 2019, concluiu o mestrado em Engenharia Elétrica no Laboratório de Inteligência de Máquina e Ciência de Dados (MINDS) da Universidade Federal de Minas Gerais ( Belo Horizonte, Brasil).

Petrônio Cândido de Lima e Silva
Palestrante
Petrônio é Bacharel em Sistemas de Informação (2005), Mestre em Informática (2010) e Doutor em Inteligência Computacional pelo PPGEE/UFMG (2019) onde também participa do MINDS – Machine Intelligence and Data Science Laboratory. É professor no Instituto Federal Do Norte De Minas – IFNMG desde 2013, onde atua nos cursos de Tecnologia da Informação e no Grupo de Pesquisa em Ciência de Dados e Inteligência Computacional - {ci?ic}, bem como em outras atividades de consultoria e extensão. É apaixonado por educação, ciência e tecnologia e um curioso incurável .

Rodrigo César Pedrosa Silva
Palestrante
Rodrigo é nascido em Cachoeira do Campo, e é da turma de 2006 do curso de Instrumentação Eletrônica e Controle de Processos do CEFET-OP, hoje IF-MG. Formou-se em 2010 em Ciência da Computação na UFOP e depois fez mestrado em Engenharia Elétrica na UFMG. Em 2018 obteve seu título de PhD pela McGill University em Montreal - Canadá. Atualmente, é professor do departamento de Ciência da Computação da UFOP e desenvolve pesquisas nas áreas de Aprendizado de Máquina e Otimização.

Tamires Martins Rezende
Palestrante
Tamires é entusiasta de Machine Learning e Visão Computacional com ambição de resolver os problemas que envolvem o reconhecimento automático da Língua Brasileira de Sinais (Libras). Sua vida acadêmica começou quando tornou-seTécnica em Instrumentação Eletrônica e Controle de Processos ( 2006 - 2008 / IFMG - Campus Ouro Preto), abrindo os caminhos para a Engenheira de Controle e Automação (2009 - 2014 / UFOP). Esses 8 anos de estudo instigaram a busca por uma formação docente e, a partir disso, aventurou-se na pós graduação em Engenharia Elétrica, desde 2015. Na área identificou-se com…

Frederico Gadelha Guimarães
Mediador(a)
Frederico possui graduação (2003), mestrado (2004) e doutorado (2008) em Engenharia Elétrica pela Universidade Federal de Minas Gerais (UFMG), com período de doutorado sanduíche na McGill University, Montreal, Canadá (2007), e pós-doutorado (2018) no Laboratoire Images, Signaux et Systèmes Intelligents (LiSSi), vinculado à Université Paris-Est Créteil (UPEC), Paris, França. Foi professor do Instituto Federal Minas Gerais Campus Ouro Preto (IFMG-OP) (2007 a 2008) , professor adjunto do Departamento de Computação da Universidade Federal de Ouro Preto (UFOP) (2008 a 2010) e coordenador do…
Outros conteúdos deste evento
Gravados no evento VI Semana de Ciência e Tecnologia do IFMG - Campus Itabirito
Inteligência artificial para imagens
Gravado no evento VI Semana de Ciência e Tecnologia do IFMG - Campus Itabirito
A palestra aborda os fundamentos da visão computacional e o emprego de inteligência artificial e aprendizado de máquina para o processamento de imagens. A pesquisadora apresenta…
Ver resumo e capítulosTécnicas de otimização: aplicações na indústria, saúde pública, meio ambiente e em competições
Gravado no evento VI Semana de Ciência e Tecnologia do IFMG - Campus Itabirito
Na conferência apresentada na VI Semana de Ciência e Tecnologia do IFMG - Campus Itabirito, são abordadas diversas pesquisas aplicadas de pesquisa operacional e otimização. Os…
Ver resumo e capítulos
