Pular para o conteúdo
Even3

O papel dos Tensor Cores na aceleracao de matrizes

Trecho de 1 min 45 s de Como o Deep Learning possibilitou o RayTracing em tempo real., gravado no evento X SEMANA ACADÊMICA - IFRJ – Campus Engenheiro Paulo de Frontin - “Inteligência Artificial: a Nova Fronteira da Ciência Brasileira”. Dias 20, 21 e 22 de outubro de 2020..

Assistir à gravação completaNo Even3 Conteúdos · 1 h 5 min

Sobre este trecho

Veja a diferenca no processamento de multiplicacao de matrizes entre arquiteturas anteriores e os Tensor Cores da NVIDIA.

Vai de a da gravação.

O que é dito neste trecho

Bom, eh nas arquiteturas anteriores a Turing, para você fazer essa multiplicação de matrizes, tá, você levava vários ciclos de core, né, conforme vocês podem ver aqui nessa imagem, na arquitetura da Pascal, né? Para eu calcular uma matriz a multiplicação de uma matriz 4x4 eu precisava, né, multiplicar, somar, colocar num, né, num acumulador e aí e fazendo essa etapa até eu chegar no resultado final e depois você, né, eu tinha o resultado. Na Turing, né, a gente tem o que a gente chama de tensor core, tá? O tensor core o que que ele faz? Ele pega uma matriz 4x4 e um ciclo de clock ele consegue fazer a multiplicação, né, e já gera o resultado. Tá? E aí repara o seguinte, né, que eu tenho eh evoluções do tensor core, né? O tensor core é é o a característica principal de uma de uma arquitetura da NVIDIA, tá, que possibilitou que o Deep Learning pudesse ser, né, adotado aí amplamente. Tá? Isso basicamente aí ele, né, eh eh eh redefiniu, tá, a indústria de de aprendizado de máquina, né? E aí a gente tem a evolução nesse nesse nesse tensor core, né? A arquitetura mais nova ela permite, por exemplo, a gente trabalhar com matriz 64x64, né? E a Então ela faz essa multiplicação e um ciclo de clock, tá, que é a Ampere. Então isso, né, é muito importante, tá, a gente ressaltar que já existe na arquitetura NVIDIA, né? Então o tensor core serve para isso, tá, para poder acelerar aquele processamento, né, que é feito entre a entrada e os pesos sinápticos.

Outros trechos deste conteúdo