簡單的 CUDA 效能測試

測試用程式:原始檔下載

這邊用來作效能測試的程式,是之前《CUDA Texture Part.2 Linear Memory》、《CUDA Texture Part.3 CUDA Array》中,很簡單的 blending 演算法。而在這邊,Heresy 是用 cutil 的函式來作時間計算的工作,所以在下載原始檔後,如果要編譯可能會需要進專案設定的部分,修改相關的路徑。

而在執行的測試方面,分成五種不同的方法:

  • CPU
    使用 CPU 來做計算,但是沒有使用 OpenMP 之類的平行化計算,所以應該只有用到一顆 CPU 核心。
  • GPU
    簡單的透過 CUDA global memory 來做,沒有特別最佳化。
  • GPU Texture
    使用 CUDA Linear memory 的 texture 來做存取。
  • GPU without transfer
    簡單的透過 CUDA global memory 來做,沒有特別最佳化;不過在計算時間時,不考慮將記憶體由 host 複製到 device 的時間。
  • GPU Texture without transfer
    使用 CUDA Linear memory 的 texture 來做存取;不過在計算時間時,不考慮將記憶體由 host 複製到 device 的時間。

而測試的資料大小,分別有:640×480、1280×1024、1600×1200、1920×1200、2048×2048、4096×2048、4096×4096。計算時間時,每個方法在每組資料,都會跑 300 次;出來的結果,就是每處理一份資料所需的時間(單位應該是 ms)。

測試的平台:

  • Intel Core 2 Exterme X9650 (3Ghz, 333mhz x 9 )
  • 4GB DDR2
  • ASUS P5K Premium/Wi-Fi (Intel P35)
  • GeForce 8800GT 512MB

最後測試的結果,大概如下圖:

CUDATest2

首先,當然是先看和 CPU 比較的結果了∼在上圖中,可以很清楚的看出來,在 GPU 上的測試,不管是哪種方法,所需時間都比 CPU 少;而當資料越大,差異也越大。如果比較「CPU」和「GPU Texture without transfer」的話,只要資料量稍大(1600×1200 以上),所需時間可以差到 11 倍以上!不過實際上,這個程式在每個 thread 的運算量還不是很多,應該還沒有能完全發揮大量平行化的優勢;如果在跑更複雜一些的計算,理論上應該可以快上更多。

而如果比較「GPU」和「GPU without transfer」這兩組結果,可以發現:在這個簡單的 CUDA 測試程式中,「將資料由 host 複製到 device」所花費的時間,大概佔了快一半左右的時間…而考慮「GPU Texture」和「GPU Texture without transfer」也可以發現,資料傳輸的部分佔了相當大的比重,比例甚至超過一半。

而比較「GPU Texture without transfer」和「GPU without transfer」的結果,可以發現在沒有最佳化的情況下,直接使用 CUDA global memory 來存取資料計算所需的時間,會比使用 texture 來的慢上不少(超過兩倍)。或許對不了解最佳化方法,或不想太花心思去做最佳化的人來說,使用 CUDA Texture 會是個不錯的選擇吧?

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。