CUDA是nvidia的并行计算平台，允许c++程序通过核函数在GPU上执行并行计算，需使用nvcc编译.cu文件；示例中实现向量加法，主机分配内存并初始化数据，cudaMalloc在设备分配内存，cudaMemcpy传输数据，通过gridSize和blockSize配置核函数并发执行，每个线程用全局索引处理元素，最后将结果传回主机验证并释放资源。
CUDA 是 NVIDIA 推出的并行计算平台和编程模型，允许开发者使用 C++ 编写程序，在 GPU 上执行大规模并行计算。通过 CUDA，C++ 程序可以将计算密集型任务 offload 到 GPU，显著提升性能。下面介绍如何在 C++ 中使用 CUDA 实现 GPU 并行计算，并给出一个完整的示例。
环境准备与编译工具
要使用 CUDA 进行 GPU 编程，需满足以下条件：
- 一台支持 CUDA 的 NVIDIA 显卡
- 安装 NVIDIA 驱动
- 安装 CUDA Toolkit（包含 nvcc 编译器）
- 开发环境如 visual studio（windows）或 GCC（linux）
代码文件应保存为 .cu 后缀，用 nvcc 编译，例如：
nvcc -o vector_add vector_add.cu
CUDA 核函数与内存管理
CUDA 程序由主机（CPU）代码和设备（GPU）代码组成。核心是核函数（kernel），使用 __global__ 修饰，从主机调用但在设备上并行执行。
立即学习“C++免费学习笔记（深入）”；
数据需从主机内存复制到设备内存，步骤如下：
- cudaMalloc：在 GPU 上分配内存
- cudaMemcpy：在主机与设备间复制数据
- cudaFree：释放 GPU 内存
完整示例：向量加法
以下是一个使用 CUDA 实现两个数组相加的 C++ 示例：
#include <iostream> #include <cuda_runtime.h> <p>// 核函数：每个线程处理一个数组元素 <strong>global</strong> void vectorAdd(float <em>a, float </em>b, float <em>c, int n) { int idx = blockIdx.x </em> blockDim.x + threadIdx.x; if (idx < n) { c[idx] = a[idx] + b[idx]; } }</p><p>int main() { const int N = 1<<20; // 1M elements const int size = N * sizeof(float);</p><pre class='brush:php;toolbar:false;'>// 主机内存分配 float *h_a = (float*)malloc(size); float *h_b = (float*)malloc(size); float *h_c = (float*)malloc(size); // 初始化数据 for (int i = 0; i < N; i++) { h_a[i] = i; h_b[i] = i * 2.0f; } // 设备内存分配 float *d_a, *d_b, *d_c; cudaMalloc(&d_a, size); cudaMalloc(&d_b, size); cudaMalloc(&d_c, size); // 数据从主机复制到设备 cudaMemcpy(d_a, h_a, size, cudaMemcpyHostToDevice); cudaMemcpy(d_b, h_b, size, cudaMemcpyHostToDevice); // 配置执行配置：每块 256 线程，共 (N + 255)/256 块 int blockSize = 256; int gridSize = (N + blockSize - 1) / blockSize; vectorAdd<<<gridSize, blockSize>>>(d_a, d_b, d_c, N); // 等待 GPU 执行完成 cudaDeviceSynchronize(); // 将结果复制回主机 cudaMemcpy(h_c, d_c, size, cudaMemcpyDeviceToHost); // 验证结果（前几个） for (int i = 0; i < 5; i++) { std::cout << h_a[i] << " + " << h_b[i] << " = " << h_c[i] << std::endl; } // 释放内存 free(h_a); free(h_b); free(h_c); cudaFree(d_a); cudaFree(d_b); cudaFree(d_c); return 0;}
关键概念说明
上述代码中涉及的核心概念包括：
- threadIdx.x：线程在线程块内的索引
- blockIdx.x：当前线程块的索引
- blockDim.x：每个线程块的线程数
- gridDim.x：线程块的数量
- idx = blockIdx.x * blockDim.x + threadIdx.x：全局线程索引，用于映射数据元素
核函数调用语法 <<<gridSize, blockSize>>> 指定执行配置，决定并行粒度。
基本上就这些。掌握内存管理、核函数编写和执行配置，就能用 C++ 结合 CUDA 实现高效的 GPU 并行计算。不复杂但容易忽略细节，比如边界检查和错误处理。实际项目中建议加入 cudaError_t 检查返回值以调试问题。