Lines Matching refs:vec_vals

29     #define AVX512_Mult_Private(vec_idx, vec_x, vec_vals, vec_y) \  argument
32 vec_vals = _mm512_loadu_pd(aval); \
34 vec_y = _mm512_fmadd_pd(vec_x, vec_vals, vec_y)
36 #define AVX2_Mult_Private(vec_idx, vec_x, vec_vals, vec_y) \ argument
37 vec_vals = _mm256_loadu_pd(aval); \
40 vec_y = _mm256_fmadd_pd(vec_x, vec_vals, vec_y)
330 __m512d vec_x, vec_y, vec_vals; in MatMult_SeqSELL() local
337 __m256d vec_x, vec_y, vec_y2, vec_vals; in MatMult_SeqSELL() local
342 __m256d vec_x, vec_y, vec_y2, vec_vals; in MatMult_SeqSELL() local
371 AVX512_Mult_Private(vec_idx, vec_x, vec_vals, vec_y); in MatMult_SeqSELL()
383 AVX512_Mult_Private(vec_idx, vec_x, vec_vals, vec_y); in MatMult_SeqSELL()
392 AVX512_Mult_Private(vec_idx, vec_x, vec_vals, vec_y); in MatMult_SeqSELL()
400 AVX512_Mult_Private(vec_idx, vec_x, vec_vals, vec_y); in MatMult_SeqSELL()
450 AVX2_Mult_Private(vec_idx, vec_x, vec_vals, vec_y); in MatMult_SeqSELL()
453 AVX2_Mult_Private(vec_idx, vec_x, vec_vals, vec_y2); in MatMult_SeqSELL()
487 vec_vals = _mm256_loadu_pd(aval); in MatMult_SeqSELL()
495 vec_y = _mm256_add_pd(_mm256_mul_pd(vec_x, vec_vals), vec_y); in MatMult_SeqSELL()
498 vec_vals = _mm256_loadu_pd(aval); in MatMult_SeqSELL()
505 vec_y2 = _mm256_add_pd(_mm256_mul_pd(vec_x, vec_vals), vec_y2); in MatMult_SeqSELL()
545 __m512d vec_x, vec_y, vec_vals; in MatMultAdd_SeqSELL() local
552 __m256d vec_x, vec_y, vec_y2, vec_vals; in MatMultAdd_SeqSELL() local
590 AVX512_Mult_Private(vec_idx, vec_x, vec_vals, vec_y); in MatMultAdd_SeqSELL()
602 AVX512_Mult_Private(vec_idx, vec_x, vec_vals, vec_y); in MatMultAdd_SeqSELL()
611 AVX512_Mult_Private(vec_idx, vec_x, vec_vals, vec_y); in MatMultAdd_SeqSELL()
619 AVX512_Mult_Private(vec_idx, vec_x, vec_vals, vec_y); in MatMultAdd_SeqSELL()
665 vec_vals = _mm256_loadu_pd(aval); in MatMultAdd_SeqSELL()
674 vec_y = _mm256_add_pd(_mm256_mul_pd(vec_x, vec_vals), vec_y); in MatMultAdd_SeqSELL()
677 vec_vals = _mm256_loadu_pd(aval); in MatMultAdd_SeqSELL()
684 vec_y2 = _mm256_add_pd(_mm256_mul_pd(vec_x, vec_vals), vec_y2); in MatMultAdd_SeqSELL()