★ FEATURED ARTICLE 1. AI芯片软硬件协同设计的核心逻辑1.1 为什么软硬件必须一起设计做AI芯片这行的人都有一个共识芯片设计不再是单纯的硬件活儿了。十年前做芯片硬件团队把架构定下来软件团队在后面适配就行。现在完全反过来了软件需求往往决定了硬件架构的走向。我接触过好几个AI芯片项目凡是软硬件分开做的最后都遇到了同一个问题——硬件指标很漂亮但实际跑模型的时候性能打对折。这个问题的根源在于AI计算负载的特殊性。传统CPU处理的是通用计算任务指令集相对固定编译器优化空间有限但路径清晰。AI负载不一样模型结构千变万化算子类型层出不穷数据流模式也跟传统计算截然不同。你设计一个矩阵乘法加速器如果不知道上层框架怎么调度、编译器怎么映射、内存怎么分配做出来的东西很可能在实际部署时变成摆设。所以现在行业里做AI芯片基本都遵循一个原则软件团队从第一天就介入架构定义。具体来说软件团队要提供几个关键输入主流模型的算子分布和计算特征、编译器的映射策略和约束条件、运行时调度的粒度和开销预算。硬件团队根据这些输入来定架构参数比如PE阵列规模、片上缓存大小、互联带宽等。1.2 软硬件协同的三个层次软硬件协同设计不是一句口号它体现在三个具体层次上。第一个层次是架构定义阶段的协同。这个阶段软件团队要回答的问题是目标模型的计算图长什么样算子之间的依赖关系如何哪些算子是性能瓶颈硬件团队则根据这些信息来决定加速器的微架构。举个例子如果目标场景以Transformer类模型为主那注意力机制的计算模式就决定了你需要什么样的数据复用策略和片上存储结构。第二个层次是编译映射阶段的协同。硬件架构定了之后编译器要把上层模型映射到具体的硬件资源上。这个阶段的核心挑战是如何把计算图切分成硬件能高效执行的指令序列如何做算子融合来减少访存如何调度数据搬运和计算来掩盖延迟这些问题需要硬件提供足够的灵活性比如可配置的PE阵列、多级缓存结构、灵活的DMA引擎等。第三个层次是运行时调度阶段的协同。模型部署到实际系统中后运行时系统要管理多任务并发、动态shape处理、功耗和热约束等问题。这个阶段需要硬件提供细粒度的性能计数器和调试接口让软件能实时感知硬件状态并做出调整。这三个层次不是割裂的而是迭代进行的。架构定义阶段的决策会影响编译映射的难度编译映射的反馈又会反过来推动架构调整。我见过做得好的团队这三个层次是并行推进的每周都有软硬件联合评审。1.3 一个典型的协同设计流程拿一个实际项目举例。假设我们要设计一款面向边缘推理的AI加速芯片目标场景是智能安防中的多路视频分析。这个场景的特点是模型以CNN为主输入分辨率固定batch size小对延迟敏感功耗预算严格。第一步软件团队先跑一遍目标模型统计算子分布。假设发现卷积层占了80%的计算量其中3x3卷积又占卷积层的70%。同时统计内存访问模式发现特征图的数据复用率很高但权重数据的复用率相对较低。第二步硬件团队根据这些统计信息来定架构。卷积计算量大且规整适合用脉动阵列来做特征图复用率高说明需要较大的片上缓存来存特征图权重复用率低说明权重可以放在片外通过DMA按需加载。同时考虑到边缘场景的功耗约束PE阵列规模不能太大时钟频率也要控制在合理范围。第三步编译器团队根据硬件架构来设计映射策略。比如把3x3卷积拆成多个1x1卷积的组合利用脉动阵列的并行性设计双缓冲机制来重叠数据搬运和计算对算子进行融合把卷积、BN、激活函数合并成一个硬件指令。第四步运行时团队设计调度策略。多路视频分析意味着多个模型实例并发执行需要硬件支持任务抢占和优先级调度。同时要设计动态电压频率调节策略在满足延迟约束的前提下尽量降低功耗。这个流程走下来软硬件团队对彼此的需求和约束都有了清晰的认识做出来的芯片才能真正好用。2. 硬件架构设计的关键技术点2.1 计算阵列的设计取舍AI芯片的计算阵列设计是整个硬件架构的核心。目前主流的选择有几种脉动阵列、SIMD阵列、可重构数据流架构等。每种架构都有各自的适用场景和设计难点。脉动阵列是谷歌TPU带火的架构核心思想是让数据在PE阵列中有节奏地流动减少访存开销。它的优势在于矩阵乘法效率极高适合规则的计算模式。但缺点也很明显灵活性差遇到非规则计算或者稀疏计算时效率会大幅下降。设计脉动阵列时关键参数是阵列的维度和数据流的组织方式。阵列太大利用率上不去阵列太小峰值算力不够。我一般建议根据目标模型的最大矩阵维度来定留出20%到30%的余量。SIMD阵列更灵活每个PE可以独立执行不同的操作适合处理多样化的算子。但灵活性带来的代价是控制逻辑复杂、功耗高。设计SIMD阵列时关键是要平衡PE的自治程度和整体调度的开销。PE太自治调度器管不过来PE太依赖中央控制又失去了灵活性。可重构数据流架构是近几年的热点核心思想是根据不同的计算模式动态配置PE之间的连接关系。这种架构理论上能兼顾效率和灵活性但实际做起来非常复杂编译器的映射难度也很大。我个人的经验是除非团队有很强的编译器背景否则不建议一上来就搞可重构架构。不管选哪种架构有几个设计原则是通用的。第一计算和访存要平衡。很多芯片算力标称很高但实际跑起来受限于内存带宽算力利用率只有30%到40%。第二要留出足够的片上缓存。AI计算的局部性很强足够的缓存能大幅减少片外访存。第三互联网络要够宽。PE之间的数据交换、缓存和计算单元之间的数据搬运都需要高带宽低延迟的互联支持。2.2 片上存储层次的设计AI芯片的片上存储设计直接决定了实际性能。我见过太多芯片算力指标很好看但因为存储层次没设计好实际跑模型时数据搬运成了瓶颈。典型的AI芯片存储层次包括寄存器文件、片上缓存分为多个级别、片外内存。设计的关键是确定每一级的容量、带宽和访问延迟。寄存器文件是PE内部的小容量高速存储用来暂存当前计算需要的操作数。容量一般很小几十到几百字节。设计时要注意读写端口的数量太少会成为瓶颈太多会增加面积和功耗。一级缓存通常和计算阵列紧耦合用来缓存当前计算块需要的数据。容量在几十KB到几百KB之间。设计时要考虑数据复用模式如果是卷积计算特征图的复用率很高缓存要优先保证特征图的命中率如果是全连接层权重的复用率更高缓存策略要相应调整。二级缓存是多个计算簇共享的存储容量在几MB级别。它的主要作用是减少片外访存同时支持不同计算簇之间的数据交换。设计时要考虑一致性和替换策略避免出现缓存颠簸。片外内存通常是高带宽内存容量大但访问延迟高。设计时要优化DMA引擎支持高效的数据预取和回写。同时要考虑内存控制器的调度策略保证高优先级的数据搬运能及时完成。这里有一个经验公式可以参考片上缓存的总容量应该至少能放下目标模型单层计算所需的最大数据块。比如目标模型的最大特征图是256x256x256那片上缓存至少要能放下这个规模的数据块的一部分否则每次计算都要访问片外内存性能会大打折扣。2.3 数据流与指令集设计数据流设计决定了数据在计算阵列中如何流动指令集设计决定了软件如何控制硬件。这两者是紧密相关的。数据流设计有几个经典模式权重固定、输出固定、行固定等。权重固定的意思是权重数据在计算过程中保持在PE中不动特征图数据流过PE阵列。这种模式适合权重复用率高的场景。输出固定的意思是输出数据在PE中累积权重和特征图数据流过。这种模式适合输出复用率高的场景。选择哪种数据流取决于目标模型的计算特征。我一般建议做混合数据流根据不同的算子类型动态切换。比如卷积层用权重固定全连接层用输出固定。这样能兼顾不同算子的效率。指令集设计是软硬件接口的核心。AI芯片的指令集通常包括几类指令计算指令控制PE阵列执行矩阵乘、卷积等操作、数据搬运指令控制DMA在各级存储之间搬数据、控制指令循环、分支、同步等。设计指令集时要注意几点。第一指令要足够粗粒度一条指令能完成足够多的计算减少指令发射的开销。第二指令要支持流水线计算和搬运能重叠执行。第三指令要留出足够的配置空间让编译器能灵活地映射不同的算子。我见过一些AI芯片的指令集设计得太细每条指令只做一个PE操作结果指令发射成了瓶颈算力利用率上不去。也见过设计得太粗的一条指令把整个模型都包进去灵活性太差换个模型就跑不了。好的指令集设计是在灵活性和效率之间找到平衡点。3. 软件栈的分层与实现3.1 编译器在软硬件协同中的角色编译器是连接上层框架和底层硬件的桥梁它的质量直接决定了芯片的实际可用性。一个优秀的AI编译器要解决几个核心问题计算图优化、算子映射、内存分配、指令调度。计算图优化是在高层做等价变换减少计算量和访存量。常见的优化包括算子融合把卷积、BN、激活合并成一个算子、常量折叠把编译期能算出来的值提前算好、死代码消除去掉对输出没有贡献的计算。这些优化看起来简单但实际做起来要考虑硬件的约束。比如算子融合融合后的算子能不能在硬件上高效执行融合带来的寄存器压力会不会导致溢出这些都需要编译器和硬件团队一起评估。算子映射是把优化后的计算图映射到硬件资源上。这个阶段的核心挑战是如何把不同形状、不同计算模式的算子映射到同一套硬件上我的经验是硬件要提供足够的灵活性比如可配置的PE阵列、多种数据流模式、灵活的缓存配置。编译器则要根据算子的特征选择最合适的映射策略。内存分配决定了数据在各级存储中的布局。好的内存分配策略能大幅减少访存开销。比如把频繁访问的数据放在片上缓存把只读的权重数据放在片外但做预取把中间结果放在寄存器文件里避免反复读写缓存。指令调度是把映射后的操作排成指令序列同时要处理数据依赖、流水线冲突、资源竞争等问题。这个阶段要做的事情包括指令重排来隐藏延迟、双缓冲来重叠计算和搬运、循环展开来提高并行度。3.2 运行时系统的设计要点运行时系统是模型部署后的实际管理者它要处理多任务调度、动态shape、内存管理、功耗控制等问题。很多AI芯片在实验室跑分很好看但实际部署时问题百出往往就是运行时系统没做好。多任务调度是边缘和云端场景的常见需求。比如智能安防场景多路视频流要共享同一个AI加速器。运行时系统要能根据任务的优先级和延迟要求来分配硬件资源。设计时要考虑任务的抢占和恢复避免高优先级任务被低优先级任务阻塞。动态shape处理是实际部署中的常见挑战。实验室跑模型时输入shape是固定的但实际场景中输入尺寸可能变化。运行时系统要能动态调整计算图和内存分配同时保证性能不出现大幅波动。这需要硬件支持动态配置比如可变的PE阵列规模、可调整的缓存划分。内存管理要处理片上缓存和片外内存的分配和回收。AI计算的中间结果往往很大如果内存管理不当会出现频繁的分配和释放导致性能下降。好的做法是预分配内存池运行时从池中分配和回收减少系统调用开销。功耗控制对边缘设备尤其重要。运行时系统要根据当前的负载和热状态来调整电压频率在满足性能要求的前提下尽量降低功耗。这需要硬件提供细粒度的功耗管理接口软件则要实现智能的调节策略。3.3 框架适配与生态建设AI芯片要真正被用起来必须适配主流的深度学习框架。目前主流的选择是PyTorch和TensorFlow国内还有一些自研框架。适配工作包括算子对接、图优化对接、运行时对接。算子对接是最基础的工作。框架里的每个算子都要在芯片上有对应的实现。但这不是简单的映射因为框架的算子定义和硬件的执行模式往往不一致。比如框架里的卷积算子支持各种padding、stride、dilation组合硬件可能只支持部分组合。这时候要么在编译器里做变换把不支持的组合转换成支持的组合要么在硬件里增加灵活性支持更多的配置。图优化对接是把框架的图优化pass和编译器的优化pass打通。框架层面做的优化比如常量折叠、死代码消除要在编译器里能识别和利用。编译器层面的优化比如算子融合、内存复用也要反馈给框架避免框架做出不利于硬件执行的决策。运行时对接是把框架的运行时和芯片的运行时整合起来。框架负责模型加载、输入预处理、输出后处理芯片运行时负责计算执行。两者之间的接口要清晰高效避免数据拷贝和同步开销。生态建设是长期工作不是技术问题而是商业问题。但技术团队能做的是提供好用的工具链、完善的文档、丰富的示例。我见过一些芯片性能不错但工具链难用、文档缺失开发者用了一次就不想再用。这是很可惜的。4. 实操中的典型问题与排查4.1 性能不达预期的排查思路AI芯片实际性能达不到标称指标是常见问题。排查时我一般按照从上层到下层的顺序来定位。第一步看算力利用率。如果算力利用率低于50%说明硬件资源没有被充分利用。原因可能是计算图切分不合理导致PE阵列经常处于空闲状态数据搬运和计算没有重叠计算单元在等数据指令发射成为瓶颈PE阵列经常等指令。第二步看内存带宽利用率。如果带宽利用率接近100%说明访存是瓶颈。原因可能是片上缓存太小数据反复从片外加载数据布局不合理导致访问不连续DMA效率低搬运开销大。第三步看指令效率。如果指令数远多于理论值说明指令集设计或者编译器映射有问题。原因可能是指令粒度太细发射开销大循环没有展开分支开销大算子没有融合重复访存多。排查时要用好性能计数器。好的AI芯片会提供丰富的性能计数器包括PE利用率、缓存命中率、带宽利用率、指令发射率等。这些数据是定位问题的关键。4.2 精度问题的定位与解决AI芯片的精度问题往往比性能问题更难排查。因为精度损失可能来自多个环节量化、计算顺序、累加精度、激活函数近似等。量化误差是最常见的精度问题来源。把FP32量化成INT8精度损失是必然的关键是要控制在可接受范围内。我的经验是权重量化对精度影响相对小激活量化影响大对称量化比非对称量化简单但精度可能差一些per-channel量化比per-tensor量化精度好但硬件实现复杂。计算顺序也会影响精度。浮点加法不满足结合律不同的累加顺序会得到不同的结果。硬件做并行累加时累加顺序和软件模拟不一致可能导致精度差异。解决方法是在编译器里做累加顺序的规范化保证硬件和软件的结果一致。累加精度是另一个关键点。INT8乘法的结果是INT16但累加过程中如果只用INT16累加很容易溢出。通常要用INT32累加最后再量化回INT8。这个细节如果没处理好精度会大幅下降。激活函数近似也会引入误差。硬件实现激活函数时往往用查表或者分段线性近似来替代精确计算。近似的精度要仔细评估太粗糙会影响模型精度太精细会增加硬件开销。4.3 常见问题速查表问题现象可能原因排查方法解决思路算力利用率低PE阵列空闲多查看PE利用率计数器优化计算图切分增加并行度带宽利用率高片上缓存不足查看缓存命中率增大缓存或优化数据复用指令发射率高指令粒度过细统计指令数和计算量比值增大指令粒度算子融合精度下降明显量化误差大逐层对比量化前后输出调整量化策略per-channel量化多任务性能波动调度策略不合理记录任务切换开销优化优先级调度减少抢占功耗超标电压频率过高查看功耗计数器动态调频优化数据流4.4 实操心得与避坑建议做了几个AI芯片项目后我总结了一些实操中的心得有些是踩过坑才明白的。第一不要过早优化。项目初期先把功能跑通性能优化留到后面。我见过团队一开始就追求极致性能结果架构改来改去项目延期严重。正确的做法是先做一个能跑的版本然后根据实际瓶颈来优化。第二仿真验证要充分。AI芯片流片成本很高流片前要充分验证。仿真验证要覆盖功能、性能、功耗三个方面。功能验证要覆盖所有算子和边界情况性能验证要用真实模型跑端到端功耗验证要在典型场景下测量。第三软件要先行。硬件还在设计阶段时软件团队就应该开始搭建编译器和运行时。可以用FPGA原型或者软件模拟器来验证软件栈的正确性。等硬件回来再开发软件时间上根本来不及。第四留出调试接口。芯片上要留足够的调试接口包括性能计数器、跟踪缓冲区、断点调试等。实际部署时出问题没有调试接口会非常被动。第五关注端到端体验。芯片性能好不代表用户体验好。模型转换是否方便部署是否简单文档是否完善这些都会影响芯片的实际采用率。5. 软硬件协同的未来演进方向5.1 领域专用架构的深化AI芯片的发展趋势是越来越领域专用。通用AI芯片的时代已经过去了现在要做的是针对特定场景深度优化。比如自动驾驶场景对延迟和功能安全有极高要求推荐系统场景对稀疏计算和超大embedding表有特殊需求科学计算场景对高精度浮点和特定算子有专门要求。领域专用架构的设计方法是先深入理解目标场景的计算特征然后针对这些特征来定制硬件。比如自动驾驶场景可以把感知、预测、规划等不同模块的计算特征都分析清楚然后设计一个能高效支持这些计算的架构。这比做一个通用AI加速器要复杂得多但效率和用户体验会好很多。5.2 编译技术的智能化传统编译器依赖人工设计的优化规则面对AI模型的多样性越来越力不从心。未来的方向是用机器学习来辅助编译优化。比如用强化学习来搜索最优的算子映射策略用图神经网络来预测不同优化的效果用自动调优来寻找最优的编译参数。这个方向已经有了一些进展但离实用还有距离。主要挑战是搜索空间太大训练成本高硬件平台多样模型难以泛化编译时间要求严格不能太慢。不过我相信随着技术发展智能编译会逐渐成为主流。5.3 软硬件接口的标准化目前AI芯片的软硬件接口五花八门每家的指令集、编译器IR、运行时API都不一样。这导致开发者的迁移成本很高生态建设困难。未来的趋势是接口标准化让上层软件能方便地适配不同的硬件。标准化的方向包括统一的编译器IR比如MLIR、统一的运行时API、统一的性能分析接口。这些标准化工作已经在推进中但需要整个行业的共同努力。标准化不是要限制创新而是要在接口层面统一让硬件厂商能在实现层面自由创新。5.4 存算一体的探索存算一体是解决AI计算访存瓶颈的重要方向。传统架构中计算和存储是分离的数据在两者之间搬运消耗了大量能量和时间。存算一体把计算单元嵌入到存储阵列中在存储的地方直接计算大幅减少数据搬运。这个方向目前还在探索阶段面临很多技术挑战工艺上存储和计算的集成难度大设计上存算一体的架构和传统架构差异很大需要全新的设计方法软件上编程模型和编译器都要重新设计。但潜力巨大值得持续投入。5.5 我个人的一些判断做了这些年AI芯片我对这个领域有一些自己的判断。首先软硬件协同不是可选项而是必选项任何做AI芯片的团队都必须建立软硬件联合设计的机制。其次生态建设比芯片性能更重要性能再好但没人用也是白搭。第三不要追求大而全找到自己的目标场景做深做透比做一个什么都支持的通用芯片更有前途。第四技术迭代很快要保持学习今天的最优方案明天可能就过时了。最后分享一个我在实际项目中的小技巧每次流片前我都会让软件团队用FPGA原型跑一遍完整的端到端流程包括模型转换、编译、部署、推理。这个过程能发现很多仿真阶段发现不了的问题比如时序问题、内存溢出、精度偏差等。虽然FPGA原型的性能比真实芯片差很多但功能验证的价值是无可替代的。这个习惯帮我避免了好几次流片后的尴尬。
阅读完成 · 觉得有帮助？
