Avanços disruptivos e implicações éticas das novas tecnologias baseadas em Aprendizado de Máquina
Gravado no evento 2a Conferência Brasileira de Planejamento Experimental e Análise de Dados · 1 h 36 min de gravação
Trechos em vídeo

Os três pontos fundamentais trazidos pela LGPD
Trecho de a da gravação

Como modelos de Machine Learning funcionam e seus limites éticos
Trecho de a da gravação

Inteligência Artificial como apoio ao diagnóstico médico
Trecho de a da gravação
Sobre o conteúdo
A mesa-redonda intitulada "Avanços disruptivos e implicações éticas das novas tecnologias baseadas em Aprendizado de Máquina", realizada durante a 2a Conferência Brasileira de Planejamento Experimental e Análise de Dados, promove um diálogo interdisciplinar entre especialistas do mercado financeiro, da indústria de tecnologia e do meio acadêmico nas áreas de inteligência artificial e ciências sociais. O moderador Fernando Gomes Souza Jr abre o encontro convidando os debatedores a apresentarem suas trajetórias profissionais e seus campos de atuação, ressaltando o valor de integrar conhecimento humanístico e tecnológico para analisar as transformações promovidas pelos modelos preditivos na vida cotidiana.
O debate se inicia a partir da apresentação de um caso polêmico: sistemas de inteligência artificial que pretendem determinar risco de concessão de crédito a partir da fisionomia do indivíduo. A socióloga Mirlene Fátima Simões Wexell Severo argumenta que as máquinas refletem e reproduzem as contradições, os preconceitos e os erros humanos existentes na própria sociedade, já que são treinadas por dados e agentes historicamente enviesados. Em seguida, Felipe Ferreira de Carvalho traz o caso emblemático do chatbot Tay da Microsoft, que em poucas horas após o lançamento no Twitter começou a reproduzir discursos de ódio ao assimilar interações externas sem filtros críticos, evidenciando que modelos estatísticos apenas detectam padrões e não possuem capacidade de reflexão moral.
Na sequência, Mario Alexandre Gazirro explora as práticas informais de avaliação interpessoal e a detecção de microexpressões, problematizando a taxa de erro intrínseca aos modelos de aprendizado de máquina e traçando paralelos com obras clássicas da ficção científica, como a literatura de William Gibson e a vigilância algorítmica. Odemir Depieri Jr aborda a dependência dos dados nos processos de treinamento, os perigos associados a vazamentos de informações pessoais no Brasil e as implicações éticas de avatares digitais gerados após a morte de indivíduos.
Vinicius Fernandes Caridá complementa a discussão citando casos públicos de viés discriminatório em algoritmos, como o software COMPAS utilizado na justiça criminal norte-americana e vieses raciais documentados em motores de busca e no corte automático de imagens em redes sociais. Em contraponto, destaca o papel positivo da inteligência artificial quando aplicada como sistema de suporte à decisão médica em esquema duplo-cego, reduzindo a taxa de erro humano sem substituir a responsabilidade dos profissionais. Os participantes debatem detalhadamente as regras de consentimento e titularidade previstas na LGPD, a necessidade de transparência nos algoritmos e a responsabilidade das instituições.
Nas considerações finais, a mesa redonda enfatiza que a tecnologia não possui essência boa ou ruim por si só, sendo um reflexo das decisões humanas, das diretrizes de governança e da cultura de consumo. Conclui-se que o avanço sustentável da inteligência artificial requer investimento continuado em educação crítica, diversidade nas equipes de desenvolvimento, explicabilidade de modelos preditivos e diálogo permanente entre a academia, a indústria e a sociedade civil.
O que é abordado
- Abertura e apresentação dos debatedores
- Introdução do tema: análise facial de crédito e implicações éticas
- Reflexão sociológica sobre vieses humanos e máquinas
- O caso Tay da Microsoft e os limites dos padrões de dadosTrecho de 53 s
- Detecção de faces, microexpressões e riscos de erro estatístico
- Dados de treinamento, vazamentos e casos sob a ótica da LGPD
- Vieses algorítmicos em imagem e suporte na área médicaTrecho de 2 min
- Operacionalização da ética, explicabilidade e transparência
- Responsabilidade institucional e proteção de dados pessoaisTrecho de 1 min 51 s
- Bolhas informacionais, deepfakes e cancelamento nas redes
- Considerações finais e encerramento
Dúvidas que o conteúdo responde
O que aconteceu no caso do chatbot Tay da Microsoft?
Lançado no Twitter em 2016 com o propósito de aprender a interagir com usuários jovens, o chatbot Tay começou a publicar declarações racistas, discriminatórias e de cunho ofensivo após assimilar padrões maliciosos enviados por usuários. O perfil foi suspenso e posteriormente desativado cerca de 16 horas após o início das interações.
O que foi o caso Compas mencionado na mesa?
O COMPAS foi um algoritmo preditivo adotado nos Estados Unidos para gerar uma pontuação do risco de reincidência de réus criminais, visando subsidiar decisões judiciais sobre liberdade provisória. Estudos comprovaram a existência de viés racial no sistema, atribuindo pontuações de risco desfavoráveis a pessoas negras quando comparadas a indivíduos brancos com histórico similar.
Quais os principais princípios da LGPD destacados pelos participantes?
Foram destacados o consentimento do titular vinculado a uma finalidade clara de uso, a titularidade do dado com direito a revogação e exclusão, além do dever das empresas de garantir segurança, impedir a comercialização indevida e responder por eventuais vazamentos.
Como a inteligência artificial foi empregada de forma benéfica no exemplo médico citado?
Em vez de substituir o médico, a IA atuou em um esquema de suporte diagnóstico duplo-cego em regiões desassistidas. O laudo final era aprovado caso o algoritmo e o clínico concordassem; havendo discordância, o caso era encaminhado a um especialista para desempate, reduzindo a incidência de erros médicos.
Assuntos
Palestrantes

Felipe Ferreira de Carvalho
Palestrante

Mario Gazirro
Palestrante
Bacharel em Informática pela USP, Mestre em Ciência da Computação pela UFSCar e Doutor em Física Computacional pela USP. Também realizou estágio de doutorado (sanduíche) no Instituto Superior Técnico de Lisboa, em Portugal. É Especialista em Projeto de Circuitos Integrados Digitais pela empresa Cadence, EUA, e pela Toshiba Semiconductors, Japão. Suas áreas de atuação envolvem: Cibernética, Microeletrônica, Hardware Reconfigurável, Processamento de Imagens e Sinais, Neurociências, Engenharia Biomédica, RFid, Ressonância Magnética, Artes Visuais e Arte Eletrônica.

Mirlene Fátima Simões Wexell Severo
Palestrante
Possui graduação em Ciências Sociais (2001) pela Faculdade de Ciências e Letras da UNESP Araraquara, Mestrado (2006) e Doutorado (2012) pelo Programa de Pós-Graduação em Sociologia da Faculdade de Ciências e Letras da UNESP de Araraquara. Coordenou a pesquisa Políticas Públicas para as Mulheres: a Experiência do Brasil na Promoção da Equidade no Universo do Trabalho (2012-2015), realizado pela Federação Democrática Internacional de Mulheres (FDIM), e a Secretaria de Políticas para as Mulheres da Presidência da República. Coordenou os Grupos Temáticos: Sociologia e Juventude: questões e…

Odemir Depieri Jr
Palestrante

Vinicius Fernandes Caridá
Palestrante
Computer Engineer, Master and PhD in Computer Science / Artificial Intelligence. Manager of Digital Customer Service Platforms, Data and AI of the largest bank at the south hemisphere and one in the top ten in the world. Professor at the MBAs of Machine Learning, Data and BI at FIAP and Google Developer Expert in ML. More than 10 years of experience in IT and artificial intelligence applied to control systems, recommendation systems, natural language processing, virtual assistants, chatbots and the entire cycle of MLOps. Strategic vision in conducting Tech, Data & AI to leverage business…

Fernando Gomes Souza Jr
Mediador(a)
Outros conteúdos deste evento
Gravados no evento 2a Conferência Brasileira de Planejamento Experimental e Análise de Dados
Estatística em Sociedade - da metodologia a aplicações
Gravado no evento 2a Conferência Brasileira de Planejamento Experimental e Análise de Dados
Nesta apresentação, Marcos Oliveira Prates discute a ponte entre a pesquisa acadêmica em estatística e a resolução de problemas reais com impacto na sociedade. São detalhados…
Ver resumo e capítulosSessão de Debates e Dúvidas: Design of Experiments (DoE): Aplicação em química com o uso de programa livre
Gravado no evento 2a Conferência Brasileira de Planejamento Experimental e Análise de Dados
Nesta sessão síncrona da 2ª Conferência Brasileira de Planejamento Experimental e Análise de Dados, o professor Edenir Rodrigues Pereira Filho complementa o minicurso assíncrono…
Ver resumo e capítulosEstatística e Tratamento de Dados na Engenharia Moderna: Soluções e Dasafios
Gravado no evento 2a Conferência Brasileira de Planejamento Experimental e Análise de Dados
Nesta apresentação da 2a Conferência Brasileira de Planejamento Experimental e Análise de Dados, o palestrante Antonio Henrique Monteiro aborda métodos essenciais de estatística…
Ver resumo e capítulosAnálise Experimental de Algoritmos para problemas com múltiplos objetivos
Gravado no evento 2a Conferência Brasileira de Planejamento Experimental e Análise de Dados
A apresentação introduz a análise experimental de algoritmos para problemas com múltiplos objetivos, abordando conceitos fundamentais como dominância de Pareto, fronteira ótima e…
Ver resumo e capítulosIntrodução à análise exploratória de dados espaciais (AEDE)
Gravado no evento 2a Conferência Brasileira de Planejamento Experimental e Análise de Dados
Neste minicurso, a professora Terciane Sabadini Carvalho apresenta os conceitos e aplicações práticas da Análise Exploratória de Dados Espaciais (AEDE). A exposição aborda…
Ver resumo e capítulosAnálise de dados de incidência solar para previsão de geração de energia fotovoltaica
Gravado no evento 2a Conferência Brasileira de Planejamento Experimental e Análise de Dados
A palestra aborda o uso de análise de dados e inteligência artificial para previsão de geração de energia solar fotovoltaica. O professor apresenta os fundamentos físicos e…
Ver resumo e capítulosCerimônia e Palestra de Abertura
Gravado no evento 2a Conferência Brasileira de Planejamento Experimental e Análise de Dados
A transmissão marca a abertura da 2a Conferência Brasileira de Planejamento Experimental e Análise de Dados (ConBraPA 2022). A comissão organizadora e o presidente de honra…
Ver resumo e capítulosApresentação de Trabalhos - Sala 1
Gravado no evento 2a Conferência Brasileira de Planejamento Experimental e Análise de Dados
A sessão da Sala 1 da 2a Conferência Brasileira de Planejamento Experimental e Análise de Dados reúne diversas apresentações de trabalhos científicos com foco em modelagem…
Ver resumo e capítulosApresentação de Trabalhos - Sala 2
Gravado no evento 2a Conferência Brasileira de Planejamento Experimental e Análise de Dados
A sessão da Sala 2 da 2ª Conferência Brasileira de Planejamento Experimental e Análise de Dados reúne apresentações de trabalhos acadêmicos aplicados a diversas áreas do…
Ver resumo e capítulosApresentação de Trabalhos - Sala 3
Gravado no evento 2a Conferência Brasileira de Planejamento Experimental e Análise de Dados
Nesta sessão da 2ª Conferência Brasileira de Planejamento Experimental e Análise de Dados, são apresentados três trabalhos acadêmicos e técnicos na Sala 3. O primeiro estudo…
Ver resumo e capítulosApresentação de Trabalhos - Sala 4
Gravado no evento 2a Conferência Brasileira de Planejamento Experimental e Análise de Dados
A sessão da Sala 4 da 2a Conferência Brasileira de Planejamento Experimental e Análise de Dados reúne diversas apresentações acadêmicas com foco em análise de dados, planejamento…
Ver resumo e capítulosApresentação de Trabalhos - Sala 5
Gravado no evento 2a Conferência Brasileira de Planejamento Experimental e Análise de Dados
A sessão técnica 'Apresentação de Trabalhos - Sala 5', realizada na 2a Conferência Brasileira de Planejamento Experimental e Análise de Dados, reúne diversas pesquisas…
Ver resumo e capítulos










