CUDA编程

CUDA是Compute Unified Device Architecture的缩写，由英伟达公司2007年开始推出，初衷是为GPU增加一个易用的编程接口，让开发者无需学习复杂的着色语言或者图形处理原语。

CUDA提供两层API供开发者使用：

• CUDA driver：低级API，较难使用，但是对GPU设备提供了更多的控制。
• CUDA runtime：基于CUDA driver构建的一套高级API，更容易使用。

Hello world

学习任何一门编程语言，一般都是从Hello world程序入手，在此展示了CUDA编程的Hello world程序代码：

#include<stdio.h>__global__ void hello_world(void){printf("GPU：Hello World!\n");
}int main(void){// CPU：Hello World!printf("CPU：Hello World!\n");// GPU：Hello World!hello_world<<<1, 10>>>();// 错误处理cudaError_t err = cudaGetLastError();if (err != cudaSuccess) {printf("CUDA Error: %s\n", cudaGetErrorString(err));// Possibly: exit(-1) if program cannot continue....} // 函数cudaDeviceReset()用来显式地释放和清空当前进程中与当前设备有关的所有资源。cudaDeviceReset();return 0;
}

通常，CPU 调用核函数的同时，会指定执行该核函数的线程块数量和每个线程块中线程的数量。这也就意味着，核函数中的内容会被并行地执行线程块的数量 × 每个线程块内的线程数量次！hello_world <<<1, 10>>>();是调用了10个线程，执行上面的hello_world程序，会打印出10个GPU：Hello World!，这个就是SIMD，即单指令多线程，多个线程执行相同的指令。

在Linux系统中，使用nvidia-smi指令查看是否有NVIDIA加速卡：

nvcc -V检查nvcc编译器是否正确安装：

若均有正常输出，则说明已配置好软硬件环境。运行如下指令：

# 编译
nvcc -arch sm_50 hello_world.cu -o hello_world
# 运行
./hello_world

结果如下图所示：

注：查看自己的显卡计算能力（算力）修改sm_50，若使用的算力过高，可能会出现编译不报错，但执行时出现如下报错:

CUDA Error: no kernel image is available for execution on the device