Cuatro double por instrucción: qué ahorra el registro ancho y qué lo rompe
Un registro AVX de 256 bits carga cuatro double u ocho float y los opera con una
sola instrucción. Elija cuántas instrucciones recorren cinco millones de elementos antes de
verlo, y después diga, para cada uno de los cinco patrones de la clase, cuál de las cuatro
condiciones rompe.
1. Cuántas instrucciones
Con AVX (256 bits) y float64, ¿cuántas
instrucciones recorren un arreglo de n = 5.000.000?
Con tan pocos elementos la cuenta engaña: cargar el
registro, alinear los datos y descargar el resultado tiene un costo fijo que aquí domina, y la
versión vectorizada no se distingue de la escalar. La ganancia aparece con miles de elementos,
cuando ese costo se reparte.
2. Las cuatro condiciones
Que los cuatro double quepan juntos en el registro depende de cuatro
condiciones sobre el bucle:
La misma operación se aplica a todos los elementos.
Los elementos son independientes: ninguno necesita el resultado del anterior.
El acceso a memoria es contiguo y regular, con paso fijo.
No hay bifurcación que dependa del dato dentro del bucle.
Cumplen las cuatro la suma de dos vectores, el producto punto,
np.exp sobre el arreglo completo y el escalado de un vector por un mismo factor.
La carta siguiente pregunta por los que no.
3. Cinco patrones, ¿cuál condición rompe?
El mismo arreglo de entrada y la misma máquina para los cinco:
n = 5_000_000
rng = np.random.default_rng(7)
a = rng.random(n)
idx = rng.permutation(n) # indices dispersos
¿Cuál de las cuatro condiciones rompe este patrón?
Patrón
Tiempo
Factor
Condición que rompe
Las cifras exactas cambian con la máquina y con la carga; el orden entre las
filas no.
4. Por qué los dos bucles cuestan casi lo mismo
El if en bucle (1.578 ms) y la recurrencia (1.682 ms)
quedan en el mismo orden aunque solo una de las dos se puede vectorizar. ¿Por qué?