SIMD加速計算矩陣(組成原理實驗5)
阿新 • • 發佈：2020-12-05
介紹
實驗5的文件內容：https://shimo.im/docs/4iV7Rw1nxLgeMsBe/
以下僅實現了第一部分的SIMD的功能。
- a) 介紹
並行化是計算機硬體的大趨勢。然而，程式設計師不做任何修改，只依賴於計算機體系結構專家、編譯器設計者和晶片工程師的工作就能讓程式跑得更快，這樣的日子已經一去不復返了。因此，如果想要讓程式跑得更快，軟體設計人員應該掌握並行程式設計的基本思想。
在這部分實驗中，你需要利用SIMD內蘊函式編寫並行程式碼解決問題。 - b) 熟悉實驗程式碼
你將拿到兩個原始檔 randomized.cpp 和 common.h, 你可以在你熟悉的開發平臺上編譯randomized.cpp，並觀察執行效果。你需要優化的函式sum()放在common.h標頭檔案中，這段程式碼完成的核心功能是對一個整型陣列進行有條件求和，並對程式執行時間進行計時。由於核心函式的SIMD版本還未實現，你應該能夠看到兩個版本之間的執行結果是不一致的。 - c) 使用SIMD內蘊函式對求和函式進行優化
在common.h標頭檔案中找到函式sum_simd(), 你需要根據以下程式碼進行相應的優化：
（注意：你僅僅需要對內層的迴圈體進行優化。）
在優化的過程中，你可能會用到以下內蘊函式：
-
d) 一些有益的提示
- i. __m128i是Intel用於宣告128-bit向量的資料型別，我們會用一個__m128i型別的變數存放四個32-bit的整形數；
- ii. 程式碼中提供了一個叫做_127的變數，它當中包含了數字127的四份拷貝，你可以把它用在比較上；
- iii. 在你完成內層迴圈體的計算之前，不要使用儲存函式(_mm_storeu_si128)。這個函式的計算代價很高，如果你在每一次迴圈結束時都使用它，你會發現你的程式碼的效能不夠好；
- iv. 在訪問__m128i型別的向量時，不推薦你直接地訪問它當中的每一個元素，更好的方法是把__m128i型別的向量用storeu的方法存放到一個普通的陣列當中，然後單獨訪問這個陣列當中的元素；
- e) 實驗結果與實驗報告
當你完成程式碼之後，你應該能夠觀察到以下效果：
-
i. SIMD版本的程式碼與未優化的程式碼的計算結果保持一致；
-
ii. SIMD版本的程式碼應該要比未優化的程式碼快（快多少，記錄下效能加速比，並且分析為什麼你認為它是正確的結果）
在你的實驗報告中提供你的程式碼、執行結果和你的思考過程，並上傳一個簡短的帶解說的演示視訊（只給出程式碼截圖和實驗結果，但卻不提供分析過程的不給分。）
-
實驗給出的原始碼
common.h：
#ifndef COMMON_H
#define COMMON_H
#include <x86intrin.h>
#define NUM_ELEMS ((1 << 15) + 10)
#define OUTER_ITERATIONS (1 << 15)
/* 不要修改這個函式 */
long long int sum(unsigned int vals[NUM_ELEMS]) {
clock_t start = clock();
long long int sum = 0;
for(unsigned int w = 0; w < OUTER_ITERATIONS; w++) {
for(unsigned int i = 0; i < NUM_ELEMS; i++) {
if(vals[i] >= 128) {
sum += vals[i];
}
}
}
clock_t end = clock();
printf("Time taken: %f s\n", (double)(end - start) / CLOCKS_PER_SEC);
return sum;
}
/* 不要修改這個函式 */
long long int sum_unrolled(unsigned int vals[NUM_ELEMS]) {
clock_t start = clock();
long long int sum = 0;
for(unsigned int w = 0; w < OUTER_ITERATIONS; w++) {
for(unsigned int i = 0; i < NUM_ELEMS / 4 * 4; i += 4) {
if(vals[i] >= 128) sum += vals[i];
if(vals[i + 1] >= 128) sum += vals[i + 1];
if(vals[i + 2] >= 128) sum += vals[i + 2];
if(vals[i + 3] >= 128) sum += vals[i + 3];
}
//This is what we call the TAIL CASE
//For when NUM_ELEMS isn't a multiple of 4
//NONTRIVIAL FACT: NUM_ELEMS / 4 * 4 is the largest multiple of 4 less than NUM_ELEMS
for(unsigned int i = NUM_ELEMS / 4 * 4; i < NUM_ELEMS; i++) {
if (vals[i] >= 128) {
sum += vals[i];
}
}
}
clock_t end = clock();
printf("Time taken: %f s\n", (double)(end - start) / CLOCKS_PER_SEC);
return sum;
}
long long int sum_simd(unsigned int vals[NUM_ELEMS]) {
clock_t start = clock();
//這句程式碼會為你生成一個含有若干個127的向量
//思考題：為什麼你需要它？
__m128i _127 = _mm_set1_epi32(127);
long long int result = 0;// 將最終計算的結果儲存在這裡
//不要修改此行之上的任何程式碼！！！
for(unsigned int w = 0; w < OUTER_ITERATIONS; w++) {
/* 你的程式碼從這裡開始 */
/* 你的程式碼在這裡結束 */
}
clock_t end = clock();
printf("Time taken: %f s\n", (double)(end - start) / CLOCKS_PER_SEC);
return result;
}
/* 不要修改這個函式 */
int int_comparator(const void* a, const void* b) {
if(*(unsigned int*)a == *(unsigned int*)b) return 0;
else if(*(unsigned int*)a < *(unsigned int*)b) return -1;
else return 1;
}
#endif
- 原始碼
randomized.cpp
#include <time.h>
#include <stdio.h>
#include <stdlib.h>
#include "common.h"
/* ***不要修改這個檔案！只能修改common.h的內容！*** */
int main(int argc, char* argv[]) {
printf("Let's generate a randomized array.\n");
unsigned int vals[NUM_ELEMS];
long long int reference;
long long int simd;
long long int simdu;
for(unsigned int i = 0; i < NUM_ELEMS; i++) vals[i] = rand() % 256;
printf("Starting randomized sum.\n");
printf("Sum: %lld\n", reference = sum(vals));
printf("Starting randomized unrolled sum.\n");
printf("Sum: %lld\n", sum_unrolled(vals));
printf("Starting randomized SIMD sum.\n");
printf("Sum: %lld\n", simd = sum_simd(vals));
if (simd != reference) {
printf("OH NO! SIMD sum %lld doesn't match reference sum %lld!\n", simd, reference);
}
}
題目要求只修改common.h
我實現的程式碼，如下：
#ifndef COMMON_H
#define COMMON_H
#include <x86intrin.h>
#include <stdint.h>
#define NUM_ELEMS ((1 << 15) + 10)
#define OUTER_ITERATIONS (1 << 15)
/* 不要修改這個函式 */
long long int sum(unsigned int vals[NUM_ELEMS]) {
clock_t start = clock();
long long int sum = 0;
for(unsigned int w = 0; w < OUTER_ITERATIONS; w++) {
for(unsigned int i = 0; i < NUM_ELEMS; i++) {
if(vals[i] >= 128) {
sum += vals[i];
}
}
}
clock_t end = clock();
printf("Time taken: %f s\n", (double)(end - start) / CLOCKS_PER_SEC);
return sum;
}
/* 不要修改這個函式 */
long long int sum_unrolled(unsigned int vals[NUM_ELEMS]) {
clock_t start = clock();
long long int sum = 0;
for(unsigned int w = 0; w < OUTER_ITERATIONS; w++) {
for(unsigned int i = 0; i < NUM_ELEMS / 4 * 4; i += 4) {
if(vals[i] >= 128) sum += vals[i];
if(vals[i + 1] >= 128) sum += vals[i + 1];
if(vals[i + 2] >= 128) sum += vals[i + 2];
if(vals[i + 3] >= 128) sum += vals[i + 3];
}
//This is what we call the TAIL CASE
//For when NUM_ELEMS isn't a multiple of 4
//NONTRIVIAL FACT: NUM_ELEMS / 4 * 4 is the
// largest multiple of 4 less than NUM_ELEMS
for(unsigned int i = NUM_ELEMS / 4 * 4; i < NUM_ELEMS; i++) {
if (vals[i] >= 128) {
sum += vals[i];
}
}
}
clock_t end = clock();
printf("Time taken: %f s\n", (double)(end - start) / CLOCKS_PER_SEC);
return sum;
}
long long int sum_simd(unsigned int vals[NUM_ELEMS]) {
clock_t start = clock();
//這句程式碼會為你生成一個含有若干個127的向量
//思考題：為什麼你需要它？
//用來實現比較對應的128， (>127) == (>=128)
__m128i _127 = _mm_set1_epi32(127);
//用來比較數字是否>=128
long long int result = 0;// 將最終計算的結果儲存在這裡
//不要修改此行之上的任何程式碼！！！
__m128i p = _mm_setzero_si128( );//用來儲存從陣列中讀取的資料
for(unsigned int w = 0; w < OUTER_ITERATIONS; w++) {
/* 你的程式碼從這裡開始 */
__m128i sum = _mm_setzero_si128( );//需要sum的值
for(unsigned int i = 0; i < NUM_ELEMS / 4 * 4; i += 4){
__m128i* h = (__m128i*)(vals+i);//地址強制型別轉換
p = _mm_loadu_si128( h );//從指標中獲取值,獲取128位,即4Byte,恰好是vals[0-3]
__m128i flag = _mm_setzero_si128( );
flag = _mm_cmpgt_epi32( p , _127 ); //大於127時應該是oxfffff，
//一下子比較四個向量, 4Byte的每一bits都是應該是十進位制的-1,而但小於時則會出現ox0000,
//所以就是0, 在flag中的四個部分中分別比較後的結果會變成四個部分儲存,
//所以只存在-1和0的結果.如果都大於,(-1,-1,-1,-1).
//這樣子的話,-1時是每一bis都是1, 那麼我們取大於的時候,
//直接用flag和我們的p來做and與計算, 那麼如果大於,直接保留不變,
//小於的話是0,與完後變成0,相當於跳過計算,不影響我們的計算結果.
__m128i hi = _mm_setzero_si128( );
hi = _mm_and_si128( p, flag );
sum = _mm_add_epi32(sum, hi);
}
//int 一般為32位, 4*32 = 128
int32_t *k = (int *)∑//將_m128i轉換為4個int型的陣列 (
result = result + k[0] + k[1] + k[2] + k[3];//將其全部加入result
for(unsigned int i = NUM_ELEMS / 4 * 4; i < NUM_ELEMS; i++) {
if (vals[i] >= 128) {
result += vals[i];
}
}
//result *= OUTER_ITERATIONS;
/* 你的程式碼在這裡結束 */
}
clock_t end = clock();
printf("Time taken: %f s\n", (double)(end - start) / CLOCKS_PER_SEC);
return result;
}
/* 不要修改這個函式 */
int int_comparator(const void* a, const void* b) {
if(*(unsigned int*)a == *(unsigned int*)b) return 0;
else if(*(unsigned int*)a < *(unsigned int*)b) return -1;
else return 1;
}
#endif