Técnicas para desenvolvimento e aceleração de códigos científicos Prof. Edson Borin Instituto de Computação Universidade Estadual de Campinas Raul Baldin Faculdade de Engenharia Civil, Arquitetura e Urbanismo Universidade Estadual de Campinas

Atividade Prática: Bibliotecas otimizadas

Nesta atividade, verificaremos como bibliotecas otimizadas podem ser utilizadas para acelerar a execução de seu programa.

Conceitos Básicos

Fabricantes de processadores e de alguns compiladores disponibilizam para seus clientes bibliotecas com rotinas ajustadas manualmente para executar de forma eficiente em processadores modernos. Estas bibliotecas incluem geralmente rotinas conhecidas que são utilizadas em diversos tipos de software, como rotinas para gerenciamento de memória (por exemplo: malloc e free) e rotinas para aceleração de código científico e de simulação numérica, como rotinas básicas para álgebra linear, ou BLAS (do inglês: basic linear algebra subroutines).

Nesta atividade, compararemos o desempenho de um algoritmo de multiplicação de matrizes ingênua com o desempenho do algoritmo de multiplicação de matrizes de uma biblioteca otimizada.

Atividades

Cada atividade possui um arquivo com código fonte para executar o algoritmo, medir o tempo de execução e reportar o tempo e o desempenho do acesso à memória, em Gigabytes por segundo (GB/s) e o desempenho em Gigaflops por segundo (GFlops/s). O algoritmo é executado múltiplas vezes e os tempos médio, menor e maior são reportados.

Multiplicação de matrizes ingênua

• Comando para compilar o programa abaixo:

  gcc -O3 kernel4-mat_mul_naive.c -o kernel4-mat_mul_naive.x

• Programa: kernel4-mat_mul_naive.c

Ao inspecionar o código do programa, você pode observar que:

• O núcleo, ou kernel, do algoritmo é executado RPT vezes.
• Antes de executar o kernel, a rotina clean_cache() é executada para limpar a cache, ou seja, remover quaisquer dados das matrizes que foram armazenados nas caches do processador por causa das execuções anteriores do kernel.
• Para cada execução do kernel o tempo é medido e armazenado no vetor times[].
• Após executar o kernel RPT vezes, os tempos, a vazão da memória e a taxa de operações de ponto flutuante por segundo são reportados.
• Note que a variável de indução do laço que computa a média, o menor tempo e o maior tempo inicia com o valor 1, ou seja, o primeiro tempo é descartado. Isso é intencional, já que, a primeira execução geralmente sofre de uma sobrecarga causada pela carga de páginas sob demanda.

Qual foi a maior vazão da memória atingida em seu computador?

Multiplicação de matrizes com CBLAS

• Comando para compilar o programa abaixo:

  gcc -O3 kernel5-mat_mul_blas.c -lblas -o kernel5-mat_mul_blas.x

  Nota: o parâmetro -lblas indica ao compilador que a biblioteca blas deve ser ligada ao código gerado.
• programa: kernel5-mat_mul_blas.c

Ao inspecionar o código do programa, você pode observar que:

• o programa que utiliza a biblioteca blas inclui o cabeçalho cblas.h (Accelerate/Accelerate.h, no caso do Mac OS);
• a rotina de multiplicação cblas_dgemm recebe diversos parâmetros. Estes parâmetros indicam para a biblioteca a forma de armazenamento da matriz e os coeficientes da operação. De fato, em vez de realizar a operação:
  C := A x B
  esta rotina realiza a operação
  C := alpha * op(A) x op(B) + beta * C
  onde op(X) retorna a próxima matriz X ou a sua transposta, de acordo com os parâmetros. O programa acima seleciona os parâmetros alpha, beta e a operação op de forma que ambas sejam iguais.

Execute este kernel e compare o desempenho do mesmo com o desempenho da multiplicação de matrizes ingênua.

Qual a relação de desempenho entre este algoritmo e o algoritmo de multiplicação de matrizes ingênua?

Qual a relação da vazão da memória obtida com o algoritmo de multiplicação de matrizes da biblioteca otimizada e a vazão de memória obtida na cópia de matrizes?