Visual C++ OpenMP 更新：支援 3.1 的 atomic

最簡單的 OpenMP 程式基本上就是針對整數型別的索引值回圈來進行平行化（參考），下面就是一個簡單的例子：

#include <iostream>
 
int main()
{
  int aData[10] = {0,1,2,3,4,5,6,7,8,9};
 
  #pragma omp parallel for
  for (int i = 0; i < 10; ++i)
  {
    std::cout << i << std::endl;
  }
  return 0;
}

而現在這邊則是可以不使用 i 來做為存取的索引，而是直接用指標；程式碼會變成下面的樣子：

#include <iostream>
 
int main()
{
  int aData[10] = {0,1,2,3,4,5,6,7,8,9};
 
  int  *pBegin  = &aData[0],
       *pEnd    = &aData[10];
  #pragma omp parallel for
  for (int* p = pBegin; p < pEnd; ++p)
  {
    std::cout << *p << std::endl;
  }
  return 0;
}

Heresy 自己是沒想到什麼時候會需要這樣寫啦…

另外，目前還不支援針對 iterator 做 for 迴圈的平行化，但是有在規劃中。

Visual C++ 在以前還只支援 OpenMP 2.0 的時候就有支援 reduction、提供各執行序的變數彙整功能了（參考）；而這次則是加入了取最大值和最小值的功能。

以往如果要用 OpenMP 來找最大值的話，可能得用上 critical，大致上會是：

#include <array>
#include <iostream>
 
int main()
{
  std::array aData = {0,1,2,3,4,5,6,7,8,9};
 
  int iMaxval = INT_MIN;
  #pragma omp parallel for shared(iMaxval)
  for (int i = 0; i < aData.size(); ++i)
  {
    #pragma omp critical
    if (aData[i] > iMaxval)
      iMaxval = aData[i];
  }
 
  std::cout << iMaxval << std::endl;
 
  return 0;
}

而如果透過 reduction 的話，則可以寫成：

int iMaxval = INT_MIN;
#pragma omp parallel for reduction(max : iMaxval)
for (int i = 0; i < aData.size(); ++i)
{
  if (aData[i] > iMaxval)
    iMaxval = aData[i];
}

理論上這樣的效能會比使用 critical 的時候好上許多的。

OpenMP 的 atomic 是用來要求系統在平行化的狀況下，一次只有一個執行序來執行特定的命令用的；相較於通用性的 critical，atomic 僅支援有限度的簡單運算，所以編譯器可以提供更好的最佳化、提供更好的效能（參考）。

下面就是一個簡單的例子：

#include <iostream>
 
int main()
{
  int  iSum = 0;
  #pragma omp parallel for
  for (int i = 0; i < 100; ++i)
  {
    #pragma omp atomic
    iSum += i;
  }
 
  std::cout << iSum << std::endl;
 
  return 0;
}

其中，在計算總合的部分，就需要透過 atomic 來避免不同執行序同時去修改 iSum 的值而造成錯誤。當然啦，理論上這邊用 reduction 會更合適就是了。

而這次的更新則是支援 OpenMP 3.1 的規範，加入對於 read、write、update、capture 的支援。

其中 update 會是預設值，如果像以前一樣什麼都不加、只寫 #pragma omp atomic 的話，基本上就是 #pragma omp atomic update。

而 read、write 就是會限定使用的情境，藉此來做到更好的最佳化；而、capture 感覺上則算是又擴展的支援的類型，而且也還支援有限度的程式區塊、而非單一的 expression statement。

下面就是 IBM 提供的表格：

其中，這邊的 expr 是指和 x 無關的純量型別（scalar type）的式子（expression）；而 binop 是指 +、*、–、/、&、^、|、<<、>> 這些，OP 則是 ++ 或 --。

更詳細的說明可以參考 OpenMP 官網的說明（連結）。