成功安装锐炫™ 独立显卡的驱动后,选择使用dGPU进行图像渲染显示输出,需要将显示器的数据线接在dGPU的输出接口中。此时,深度学习计算可以选择使用dGPU、iGPU单独进行计算或dGPU与 iGPU同时参与计算。
若是把显示器的数据线插在主板的显示输出接口中,此时iGPU负责图像渲染显示输出。可以单独选择使用iGPU或者dGPU进行深度学习计算,当然也可以同时使用iGPU和dGPU进行深度学习计算。
安装OpenVINO™ 并测试
锐炫™ 系列独立显卡的推理性能
OpenVINO™ 是英特尔发布的一款开源且商用免费的工具套件。主要应用于计算机视觉、实现神经网络模型优化和推理计算加速。该工具可以帮助开发者在英特尔的推理硬件上(CPU、dPGU、iGPU)快速部署 AI应用程序和解决方案。
了解更多:
https://www.intel.cn/content/www/cn/zh/developer/tools/openvino-toolkit/overview.html
本次以锐炫™ 系列A770(16GB)显卡为例,在Ubuntu 20.04 LTS系统下进行OpenVINO™ 工具套件安装和独立显卡的推理性能测试:
1:创建虚拟运行环境
python -m venv openvino_env
2:激活OpenVINO™ 工作环境
. openvino_env\scripts\activate
3:升级pip版本
python -m pip install --upgrade pip
4:下载OpenVINO™ 开发工具套件
5:下载OpenVINO™ 示例代码集
git clone
https://github.com/openvinotoolkit/openvino.git
6:查看本地支持OpenVINO™ 的推理硬件列表:
python3 /openvino/samples/python/hello_query_device.py
iGPU
dGPU
将模型下载至当前文件夹中,使用OpenVINO™ 提供的模型性能评估工具(benchmark_app)运行模型推理,部署至A770独立显卡中进行性能测试。
测试命令如下: