据GIR (Global Info Research)调研，按收入计，2025年全球AI加速器PCIe卡收入大约5084百万美元，预计2032年达到13278百万美元，2026至2032期间，年复合增长率CAGR为14.6%。
1.AI加速器PCIe卡定义
AI加速器PCIe卡作为一种关键接口，用于集成先进的AI处理能力，充当连接主机系统与AI加速硬件的桥梁，实现数据传输的流畅。它利用AI算法优化计算任务，显著提升处理速度和效率。该卡设计用于支持复杂的AI模型，提供必要的计算能力以精确快速地执行深度学习、机器学习和神经网络操作。通过将密集的AI计算从CPU卸载，它确保主机系统在包括数据分析、实时决策和高级模拟在内的各种应用中保持高性能。
图 1：AI加速器PCIe卡产品图片
2. AI加速器PCIe卡的发展因素
2.1.高速互连进化：AI加速器 PCIe 卡性能跃迁的核心驱动力
AI/ML 工作负载对带宽与时延的极端需求，决定了 PCIe 卡必须围绕"更快、更远、更稳"持续演进，其发展因素集中体现在协议速率迭代、链路形态扩展与关键辅助芯片协同三方面：首先，PCIe 协议代际加速显著缩短，链路速率从 PCIe 5.0 的 32 GT/s 快速跃迁至 6.0 的 64 GT/s，并向 7.0 的 128 GT/s 演进，为 AI 加速器 PCIe 卡在既定通道数（x16）下提供成倍提升的理论带宽，直接缓解 GPU/加速卡与 CPU、内存及其他加速器之间的数据"饥饿"；其次，为适配超大规模算力集群与异构计算架构，PCIe 卡的应用场景从机箱内高速互连延伸至跨主板、跨机架，通过有源电缆（AEC）和有源光缆（AOC）等方案突破传统铜走线的物理限制，使加速器能够以 PCIe 语义参与更灵活的系统拓扑；再次，在速率翻倍与距离拉长的叠加效应下，信号完整性成为制约 PCIe 卡稳定性的关键瓶颈，Retimer 等信号重定时与均衡芯片因此成为 AI 服务器的"标配"，其在 PCIe 卡到主板、背板及外部链路之间对高速信号进行重塑与补偿，保障误码率与时延可控，甚至在单台多 GPU AI 服务器中形成规模化部署。三者相互叠加，使 AI 加速器 PCIe 卡不再只是"接口形态"的演进，而是在协议、物理链路与系统级协同优化共同驱动下，成为支撑 AI 算力持续扩张的关键基础组件。
2.2.高速互连持续进化：AI 加速器 PCIe 卡性能演进的关键驱动
AI加速器PCIe卡的性能持续爆发式增长，根本上依赖PCIe互连协议的快速迭代与生态完善。作为连接加速卡与CPU/内存/存储的唯一高速"数据高速公路"，PCIe标准的速率跃升直接决定了AI/ML工作负载海量数据吞吐与极低延迟的实现能力：从PCIe 4.0（16 GT/s）到PCIe 5.0（32 GT/s）再到PCIe 6.0（64 GT/s）仅用短短几年时间，带宽实现翻倍甚至四倍提升，而PCIe 7.0（128 GT/s）规范已进入制定阶段，为下一代百亿参数大模型推理与训练提供了充足的通道容量；与此同时，为了突破单机箱算力瓶颈、构建跨服务器/跨机架的超大规模AI集群，PCIe链路扩展技术取得重大突破，通过PCIe有源铜缆（AEC）、有源光缆（AOC）以及光学重定时器（Optical Retimer），PCIe信号可靠传输距离已从传统不足1米延长至数米甚至数十米，支持机架级、甚至数据中心级直接互连；高速长距传输带来的信号完整性挑战，则直接催生了PCIe Retimer（重定时器）芯片市场的爆发式增长——Retimer通过对高速差分信号进行接收、时钟数据恢复（CDR）、均衡、重驱动等处理，有效补偿信道损耗与抖动，确保PCIe 5.0/6.0在长距离下的BER
2.3.从"算力主导"到"运力为王"：AI推理时代PCIe加速卡的结构性跃迁
在AI推理时代，受小批量请求、模型碎片化以及MoE（混合专家）架构广泛应用等特性影响，单卡算力的线性提升已难以直接转化为系统级性能增益，多张AI加速器之间的数据交换频率与实时性要求显著提高，使得通信延迟和带宽逐步取代计算能力本身，成为制约整体效率的核心瓶颈，系统性能焦点由"算力"明确转向"运力"（即数据搬运与互联能力）；在这一背景下，AI基础设施架构正从以机柜间互联为核心的Scale-Out，转向以机柜内高密度互联为核心的Scale-Up，通过缩短物理距离来获得更高带宽、更低时延和更可控的确定性性能，而作为Scale-Up架构中GPU与GPU、GPU与CPU之间高速互联关键枢纽的PCIe卡（尤其是集成PCIe Switch的AI加速器PCIe卡），其战略价值被显著放大：一方面，新一代PCIe（如PCIe 5.0/6.0）持续提升单通道带宽，使AI加速器PCIe卡在标准化、通用性、生态成熟度与成本效率之间取得平衡，成为推理侧部署的重要载体；另一方面，随着单机多卡规模扩大，PCIe卡不再只是"算力载体"，而是深度参与系统级拓扑构建与数据调度，其在低延迟转发、非阻塞互联、虚拟化支持以及多卡协同效率方面的能力，直接决定了MoE等模型的实际吞吐表现与能效比，也由此推动PCIe Switch芯片及相关PCIe加速器卡需求快速放量，据东吴证券测算，该细分市场在2027年有望达到千亿元规模，反映出AI加速器PCIe卡正从"配角型硬件"升级为支撑推理时代系统效率的"核心基础设施"。
3.AI加速器PCIe卡的未来发展趋势
3.1.面向大规模模型的高带宽低延迟互联演进
AI加速器PCIe卡的发展，将深度围绕AI模型演进的根本需求展开。随着AI模型规模爆炸性增长，尤其是大规模基础模型和推理/训练任务对算力的极端要求，下一代PCIe标准如PCIe 7.0被正式发布，其核心目标就是通过显著提升带宽和效率来满足AI数据密集型应用的数据传输需求，这一点已由PCI-SIG在官方规范中明确指出，PCIe 7.0规范旨在支持AI/机器学习等对带宽要求极高的场景，提供更高传输速率并保持向后兼容性。这种带宽和延迟性能的提升是支撑万亿参数级模型训练与推理的基础，使得GPU和AI加速卡能够更加高效地与CPU、存储等系统组件协同工作。与此同时，AI架构创新如混合专家模型（MoE）对细粒度和延迟敏感的通信提出新的挑战，要求互联不仅在总带宽上增强，而且要在协议和拓扑上支持更加动态和不规则的数据交换模式，这将倒逼未来PCIe及相关互联技术在协议效率和QoS机制上不断优化。另一个驱动因素是AI推理和训练对低精度计算的广泛采用，比如INT8、INT4等，这意味着在同一时间内需要传输的有效"计算数据"密度更高，从而对PCIe传输效率提出更高要求，推动AI加速器在内部架构和数据路径设计上更加贴合低精度计算特征。此外，生态合作与标准推进也在塑造未来趋势，例如芯片厂商之间正在推动更紧密的CPU与加速器互联整合，以提升整体AI基础设施的性能和可扩展性。这样一条由AI模型驱动的演进路径，将使未来的AI加速器PCIe卡在高带宽、低延迟、智能调度和动态通信支持等方面持续进化，从而真正服务于复杂、海量的AI运算需求。
3.2.AI计算范式转变驱动PCIe加速卡向高效推理与异构协同进化
随着AI技术的成熟与应用需求的变化，AI计算负载的重心正在从"主要关注训练峰值算力"向"以推理为主、端云协同为核心"的方向转变，这一趋势正在重塑AI加速器PCIe卡的设计与功能定位。推理阶段已被业界领军企业视为未来AI运算的主战场，不仅因为推理计算量在整体AI生态中迅速增加，而且实时性、能效比和降低运营成本成为推理系统设计的核心目标。英伟达与Akamai合作推出面向全球部署的推理云，正是因为在实际应用中需要将推理推向更逼近用户的边缘节点以降低延迟并提升体验，这一战略表述了推理用途相比传统训练的重要性，并强调了在不同部署环境下实现高效推理的必要性。这直接推动未来PCIe加速卡在设计上更强调每瓦性能优化，集成专用硬件单元用于高效处理特定推理任务，以及更好支持端到端推理流水线中如视频处理和安全计算等环节。与此同时，AI计算从云端扩展到边缘和终端的分布式趋势，要求服务器内部及系统间形成更高效的异构协同生态。CPU、GPU、ASIC、NPU等不同类型的加速单元协同工作，在实际部署时必须依赖高效的系统级互联来调度与通信，PCIe凭借其通用性和成熟的生态优势，继续担当异构算力连接的核心"骨干"，连通多种计算元件并确保数据在系统内部高效流转，满足协同调度和低延迟通信的需求。未来PCIe加速卡的发展将不仅仅局限于单卡性能，而是更加注重在异构平台中实现统一调度、能效优化以及在云边端多层级部署中支持更灵活、更高效的推理工作负载，确保在AI计算范式转变中能够持续满足日益增长的实时推理与分布式协同需求。
3.3.AI系统级创新驱动下的未来PCIe加速卡演进：从计算单元到资源枢纽
随着AI计算从单一算力追求向系统级协同优化转变，AI加速器中基于PCIe的加速卡角色正在发生根本性升级，成为突破AI系统瓶颈的关键枢纽。一方面，传统显存容量难以满足大规模模型对海量内存的需求，业界通过开放的高速互联标准Compute Express Link（CXL）来实现跨节点的内存池化和共享，这种技术允许CPU和加速器访问统一的内存地址空间，从而克服单机内存墙的限制，并通过更高带宽和缓存一致性大幅提升内存扩展效率，CXL 4.0规范就是这一趋势的最新体现，它在原有基础上大幅提高带宽和可扩展性以支持大规模AI系统内存共享部署，并推动多机架内存池成为现实。这种内存资源的动态调度能力，使未来支持CXL的加速卡不仅提供算力，还能承担内存扩展器的角色，让整个AI系统具备更灵活、可组合的计算与存储资源架构。与此同时，为应对AI集群愈发集中的功耗与热设计难题，数据中心正越来越多采用先进的液冷设计以提升能效和散热密度，行业巨头的液冷加速卡和液冷系统已成为主流方案，这些解决方案通过直接液体散热等技术显著提升热管理能力，成为支撑高密度AI部署的基础设施方案。最后，在互联生态层面，开放标准和封闭生态之间的竞争正在影响未来发展方向，开放的互联生态如CXL与与之并行推进的开放互连方案UALink等标准，使得更多AI加速芯片供应商能够公平接入和协同构建统一系统资源池，从而降低对单一供应商私有互联的依赖并拓展市场选择空间，这种互联生态的博弈将在未来几年内持续影响系统级创新的路径与市场格局。
4.行业龙头企业介绍
4.1. Hitek Systems
Hitek Systems是一家专注于现场可编程门阵列（FPGA）硬件、IP 核和定制系统开发的技术公司，其主营业务包括为通信、数据中心、网络和嵌入式市场提供高性能 FPGA 解决方案、IP 内核、开发平台以及工程设计服务。公司围绕 Intel Agilex 系列 FPGA 及相关高速互联技术开展产品与服务的研发，强调在网络协议处理、高速以太网、计算存储一体化和可定制硬件加速方面的深厚技术积累，并在硬件板卡开发过程中提供从概念设计到硬件/软件集成测试的全流程支持。Hitek Systems 还开发了多种 FPGA 系统平台和嵌入式模块产品，并提供配套的软件支持框架以缩短客户的设计周期，产品覆盖了高带宽通信、数据加速和系统集成等应用领域。
Hitek Systems 以其 HiPrAcc™ 系列 FPGA 加速卡为核心产品线，这些加速卡基于 Intel Agilex FPGA 架构设计，提供标准 PCIe 互联能力以支持多种计算和网络加速任............. 原文转载：https://fashion.shaoqun.com/a/2758506.html
▲大量船舶滞留航道两端
