英特尔 Arc Pro B70 实测：DeepSeek R1 推理吞吐竟超 RTX 5090D

最近 AI 硬件圈有个挺有意思的消息，可能要打破大家对“炼丹只能靠 N 卡”的固有印象了。

蓝戟（GUNNIR）最近放出了一组基于英特尔 Arc Pro B70 专业显卡的测试数据。这回跑的不是传统游戏，而是当下火热的 DeepSeek R1 大语言模型蒸馏版本。结果还真让人眼前一亮：在高并发场景下，这块蓝厂卡的推理吞吐量居然超过了两家老黄家的旗舰——RTX 5090D 和 RTX 4090D。

这就有点东西了，今天咱们就来扒一扒这次测试的细节，看看这到底是不是“版本陷阱”，以及对于我们这些想搞本地大模型的人来说，意味着什么。

测试场子搭得怎么样？

首先得看看测试环境，毕竟条件不一样跑分就是耍流氓。

这次对比的主角有三款：

1. 英特尔 Arc Pro B70 (32GB 显存)
2. 英伟达 RTX 5090D (32GB 显存)
3. 英伟达 RTX 4090D (24GB 显存)

测试平台都是 4 卡并联的服务器配置。跑的模型是 DeepSeek R1-Distill Qwen 32B FP16 版本。为了数据客观，输入输出的 token 长度都固定为 128，并发数从 1 一直拉到了 512。核心考核指标就是 Token/s（每秒生成的令牌数），这直接决定了模型回答问题的速度。

低并发互有胜负，高并发英特尔逆转

n 测试结果呈现出一个很有趣的趋势，并非“一边倒”，而是分水岭明显。

低并发区间（并发数 < 32）： 这时候 RTX 5090D 还是老大哥，表现最强；RTX 4090D 紧随其后。而 Arc Pro B70 这时候表现不算抢眼，基本是跟在 RTX 4090D 后面甚至略低一点。这意味着如果你只是单用户跑个小模型，或者只是轻量级提问，N 卡的绝对性能优势依然在线。

中并发区间（并发数 32 - 64）： 局面开始发生变化。Arc Pro B70 开始发力，逐渐追平并反超了 RTX 4090D，开始逼近 RTX 5090D。

高并发区间（并发数 ≥ 128）：重点来了！

高并发场景下各显卡性能对比

当并发量达到 128 时，数据直接逆转：

• Arc Pro B70 vs RTX 5090D： 吞吐量高出 8.6%
• Arc Pro B70 vs RTX 4090D： 吞吐量高出 34.2%

但这还不是极限。当并发量拉到 256 的时候，差距进一步扩大：

• Arc Pro B70 vs RTX 5090D： 高出 7.5%
• Arc Pro B70 vs RTX 4090D： 狂飙 48.7%

在 512 并发下，Arc Pro B70 依然保持着领先优势，最高录得了 2320.76 token/s 的恐怖吞吐量。

为什么 Arc 能翻盘？

看到这很多人可能会问：英特尔显卡不是一直被吐槽驱动不行、游戏兼容性一般吗？怎么在 AI 推理上这么猛？

其实道理很简单，大模型推理（特别是高并发场景）跟打游戏需求不太一样。

1. 显存带宽与容量： Arc Pro B70 拥有 32GB 大显存，这跟 RTX 5090D 打平，比 4090D 的 24GB 大了一圈。在高并发下，更多上下文需要加载到显存里，大容量和高带宽就成了瓶颈突破口。英特尔这代架构在这方面堆料很足。
2. FP16 算力利用率： 在这次测试的 FP16 精度下，Arc 系列显卡的矩阵计算单元如果能被充分调用，效率是非常高的。DeepSeek 之类的模型对这方面优化得比较好，充分发挥了硬件潜力。
3. 架构优势： 在多任务并发处理上，Alchemist 架构展现出了不同于 CUDA 的特性，在特定负载下反而能规避掉一些传统 GPU 的调度延迟。

对我们有什么实际用途？

别光看热闹，这事儿对咱们技术选型其实挺有参考价值的。

如果你是企业用户或者个人开发者，打算搭建一套本地知识库问答系统，或者需要给公司内部搭个 AI 助手，这种场景通常就是“高并发、高吞吐”。这时候，单纯追求单卡峰值游戏性能就没意义了。

考虑到 RTX 5090D 的价格和缺货程度，如果 Arc Pro B70 能在保持高性能的同时，在价格或者供货上更有优势，那绝对是一个极具性价比的“平替”方案。毕竟省下来的预算用来多买几块 SSD 扩充值库，或者升级 CPU，不香吗？

当然，目前这还是特定模型下的测试结果。生态上 CUDA 依然是霸主，PyTorch 等框架对 N 卡的支持也是天生的。不过，只要 OpenVINO 和 OneAPI 这类工具链继续完善，英特尔在 AI 推理端这块“搅局者”的角色，怕是要坐实了。

总结一下

这次测试给我们的启示是：AI 时代，显存带宽和并发调度能力有时候比单纯的浮点峰值更重要。 英特尔 Arc Pro B70 在 DeepSeek R1 上的表现，证明了在处理高密度推理任务时，它完全有能力甚至超越现有的顶级游戏显卡。

对于想做本地大模型部署的朋友们，不妨多关注一下非 N 卡的路线，说不定能挖到不少性能宝藏，还能省下一笔巨款。