Riscos do uso de dados sintéticos para treinar inteligência artificial
Trecho de 1 min 52 s de Inteligência Artificial: estado atual, perspectivas e desafios, gravado no evento X Simpósio de Pesquisa e Inovação do IF Sudeste MG - Campus São João del-Rei e III Feira de Startups das Vertentes.
Assistir à gravação completaNo Even3 Conteúdos · 1 h 53 minSobre este trecho
O especialista responde sobre os perigos de utilizar dados artificiais no treinamento de modelos em áreas sensíveis como a medicina. A explicação recorre ao exemplo de carros autônomos para destacar o impacto de premissas incompletas.
Vai de a da gravação.
O que é dito neste trecho
Olha, você exatamente desenhou um risco que é real, tá? Por que? Veja bem, se você tem um dado sintético, esse dado ele foi gerado de acordo com algumas premissas. E talvez essas premissas desconsiderem coisas que acontecem no mundo real, né? Vou te dar um exemplo assim para a gente colocar uma analogia. Vamos supor que você tenha um dado sintético para treinar um carro autônomo. E esse dado sintético ele nunca considera que, por exemplo, alguém pode avançar o sinal, né? Aí o que que vai acontecer? Você vai treinar o carro autônomo, o carro vai se comportar perfeitamente, etc., mas o que que tá de premissa errada no carro autônomo? É que ele adotou uma premissa que todos dirigem como ele. Todos seguem exatamente as regras de trânsito, né, que é o que tava dentro dos seus dados sintéticos, ou seja, é muito mais complicado você gerar dados que representem erros, problemas, distorções, desvios. E quando esse carro fosse colocado na rua, na 1ª vez que ele se deparasse com alguém avançando o sinal, ia ter uma colisão. A mesma coisa os dados médicos, né, você pode ter uma limitação dos cenários que são considerados e de repente em uma lacuna, em um cenário que você não antecipou, esse o modelo vai ficar ingênuo em relação a isso. Então a minha resposta para você é sim e não, porque quando você utiliza os dados sintéticos, de alguma maneira você está delegando para aqueles dados a responsabilidade da cobertura, da acuidade, da precisão e da diversidade que os seus dados têm que ter na construção do modelo, tá?
Outros trechos deste conteúdo

Responsabilidade algorítmica: quem responde pelos erros da IA?
Trecho de a da gravação

A diferença essencial entre programação e aprendizado de máquina
Trecho de a da gravação