Os desafios e limitações técnicas da inteligência artificial
Trecho de 1 min 59 s de Palestra: Inteligência Artificial: O que danado é isso?, gravado no evento VI Semana de Licenciatura em Química (CAA-UFPE) - Educação e Ensino de Química em Tempos de Pandemia: Avanços e Retrocessos.
Assistir à gravação completaNo Even3 Conteúdos · 1 h 6 minSobre este trecho
Os riscos da falta de interpretabilidade em modelos de IA e a necessidade de cautela ao aplicá-los em sistemas críticos.
Vai de a da gravação.
O que é dito neste trecho
Então primeira coisa, nem sempre, depende do tipo de aplicação, a gente consegue interpretar o modelo, né? Então a gente tem alguns modelos que de inteligência artificial que são possíveis. Em alguns casos, a gente consegue interpretar bem, em alguns outros casos a gente não consegue interpretar esses modelos, né? E quando a gente não consegue interpretar, por exemplo, isso pode ser um limitador para algumas áreas. Então imagine, um juiz não vai querer dar uma sentença, né, de condenação para uma pessoa se ele não souber de onde veio, né, e não conseguir explicar o porquê que aquela inteligência artificial, né, tomou aquela decisão, né? Outra coisa que é importante é que nem sempre a gente tem garantia de aplicação eh adequada em sistemas críticos. Sistemas críticos são sistemas onde tipicamente a gente acaba tendo uma dificuldade de de operação quando você precisa responder em tempo real e se você errar, você pode colocar tudo a perder. Por exemplo, um um avião é um sistema crítico. Se você tomar uma decisão errada, ele pode embicar e você não conseguir mais eh colocar o avião para voar e ele cair, né? Por exemplo, foi o que aconteceu, por exemplo, no acidente com o o Eduardo Campos, né, que foi nosso governador aqui, né? Eh, o tempo para conseguir essas soluções, né, pode não ser viável em alguns casos. Então pode ser que você não tenha tempo suficiente, né, usando técnicas, principalmente se essas técnicas forem pesadas, como as técnicas baseadas em deep learning, para que eles funcionem em tempo real. Para os casos onde a gente tá trabalhando com processos de aprendizado de máquina, pode ser que a gente não tenha informação suficiente para treinar essas máquinas, principalmente se os modelos forem complexos, porque vejam que a gente tem aqui uma um trade-off que é muito importante. Quanto mais poderoso o modelo, mais informação você precisa para que esse modelo possa ser treinado e você possa utilizar ele com alta confiabilidade, né?
Outros trechos deste conteúdo

O impacto da tecnologia na evolução dos empregos
Trecho de a da gravação

A diferença entre inteligência artificial e inteligência computacional
Trecho de a da gravação