O perigo dos exemplos adversariais na inteligência artificial
Trecho de 1 min 55 s de Evento de Abertura - Abrindo a Caixa Preta da IA - Mesa-Redonda, gravado no evento VI Semana de Ciência e Tecnologia do IFMG - Campus Itabirito.
Assistir à gravação completaNo Even3 Conteúdos · 2 h 1 minSobre este trecho
Descubra como pequenas perturbações imperceptíveis podem enganar redes neurais e gerar riscos críticos de segurança.
Vai de a da gravação.
O que é dito neste trecho
Eh, o que que são essas imagens adversárias? São eh são perturbações intencionais que têm o objetivo de enganar o modelo, não de interpretá-lo. Mas o fato curioso é que nós não não entendemos ainda muito bem por que eh essas imagens adversárias existem. Aqui um exemplo, né, eu tenho a imagem de um pato, o a rede é capaz de reconhecer essa imagem e categorizar como sendo de um pato, mas eu consigo eh calcular uma perturbação aos pixels dessa imagem, uma perturbação imperceptível, tanto que aqui na imagem da direita você tem essa imagem perturbada. Para o olho humano é a mesma imagem, mas a rede neural enxerga aqui um cavalo, tá? Eh, isso também é possível no caso de voz, né? Aqui eu tenho uma uma forma de onda que representa eh como como você está, né, em inglês. Eu somo uma perturbação uma um perturbação intencional a essa forma de onda, que torna ela imperceptível aqui ao olho humano, mas que a máquina vai reconhecer como um comando abra a porta, tá? Próximo slide aqui. Bem, eh esse é um fato curioso das redes neurais, mas eh será que é só um uma questão sem relevância prática? Na verdade é um eh possui uma relevância importante, né? Eh, esses exemplos adversários tornam os modelos de aprendizado de máquina vulneráveis a ataques de hacker. Eh, por exemplo, um veículo autônomo que foi treinado para reconhecer imagens de placas de trânsito, ele pode sofrer um ataque de hacker, né, e reconhecer e classificar essa placa de pare como sendo um limite de velocidade de 100 km por hora, e gerando resultados aí que podem ser desastrosos.
Outros trechos deste conteúdo

O problema da caixa-preta nas redes neurais artificiais
Trecho de a da gravação

A importância da interpretabilidade e os vieses em sistemas de IA
Trecho de a da gravação