跳转至内容

神经网络处理器

来自 ArchWiki

神经网络处理器 (NPU) 是专门用于加速机器学习和人工智能相关任务的处理器。它们通常集成在现代的片上系统 (SoC) 中,包括移动设备、单板计算机以及一些较新的笔记本电脑和台式机中。NPU 可以将计算任务从 CPU 和 GPU 中分担出来,从而提高 AI 工作负载的性能并降低功耗。

安装

AMD XDNA

基于 AMD XDNA 的 NPU 通过 amdxdna 内核驱动程序支持,该驱动程序已包含在最新版本的 Linux 内核中并自动启用。

要验证 NPU 是否已被检测并初始化

$ journalctl -kg xdna

您也可以使用 rocminfo 进行检查

$ /opt/rocm/bin/rocminfo

在输出中查找指示 XDNA 或 NPU 支持的代理。如果工作正常,代理应在 ISA Info 条目下列出 ISA。

Intel NPU

Intel NPU 驱动程序已包含在最新版本的 linux 包中。

验证系统是否检测到 NPU

$ journalctl -kg intel_vpu
# or
$ lspci | grep "Processing accelerators"

支持NPU加速的软件列表

本文章或章节需要扩充。

原因: 可能有更多应用程序支持 NPU;欢迎贡献。 (请在 Talk:Neural processing unit 讨论)

参见