CUDA
CUDA 是 Nvidia GPU 提供的软件 API。
查看显卡型号
Windows 11，我的电脑 - 右键属性 - 设备管理器 - 显示适配器
例如，我这个 Dell 台式机是：
- NVIDIA GeForce GT 710
- Intel(R) UHD Graphics 630
而我的笔记本则是 AMD 的显卡。
这些 GPU 都不支持 CUDA，GT 710 则是因为太老，也不支持。
查看 pytorch 是否支持 CUDA
> python
Python 3.10.9
Type "help", "copyright", "credits" or "license" for more information.
>>> import torch
>>> torch.__version__
'1.13.1'
>>> torch.cuda.is_available()
False
如果安装的 pytorch 在编译时不支持 CUDA，即便硬件支持，也会显示不支持。
Google Colab 免费 GPU
为了节省训练时间，我使用了 Google Colab 免费的带 GPU 的服务器（开发了一个用于识别图片中指定物体数量的 Android APP），看看检测结果：
import torch
print(f"Setup complete. Using torch {torch.__version__} ({torch.cuda.get_device_properties(0).name if torch.cuda.is_available() else 'CPU'})")
输出：
Setup complete. Using torch 1.13.1+cu116 (Tesla T4)
GPU 相对 CPU 在 pytorch 上的优势
- GPU 图形处理单元
- CPU 中央处理器
GPU 适合可以并行计算的场景。在 pytorch 的使用场景上相对 CPU 要快 50 倍。
较大任务可以分解的任务数量取决于特定硬件上包含的内核数量。 内核是在给定处理器中实际执行计算的单元，CPU通常具有四个，八个或十六个内核，而GPU可能具有数千个。
CPU 版本的 PyTorch 只能在 CPU 上进行计算，无法利用 GPU 在矩阵计算上的优势。
关于作者 🌱
我是来自山东烟台的一名开发者，有敢兴趣的话题，或者软件开发需求，欢迎加微信 zhongwei 聊聊， 查看更多联系方式
