突破芯片制裁，现有工艺下提升盘算芯片算力有哪些效手段？

宣布时间：2023-09-22 09:48来源：EETOP

近日，在华为于召开的2023全联连大会上，华为副董事长、轮值董事长、CFO孟晚舟女士宣布主题演讲时体现，华为开启全面智能化（All Intelligence）战略，加速千行万业的智能化转型，致力于打造中国坚实的算力底座，为世界构建第二选择。并将连续提升“软硬芯边端云”的融合能力，做厚“黑土地”，满足各行各业多样性的AI算力需求。

以深度学习为焦点技术的人工智能有三大概害要素：算法、数据和算力。据预估，到2030年，通用算力将增长10倍，而人工智能算力将增长500倍。大模型需要大算力，算力是人工智能生长的焦点驱动力。算力巨细决定着AI迭代与立异的速度，也影响着经济生长的速度，算力的稀缺和腾贵已经成为制约AI生长的焦点因素。

芯片算力就是芯片每秒钟能够执行乘累加运算量的巨细。算力就是在CMOS集成电路上执行万亿次/秒的简单乘累加操作，操作数越大算力越高！增大算力一般接纳革新电路结构，提高芯片面积、增加MAC数量或者说提高芯片工艺制程等要领。这些依赖物理工艺的提升法，并不涉及盘算电路的实质问题，即“二进制数”高效运算。

北京航空航天大学责任教授李洪革老师在EETOP于2023年8月24日在深圳举办的“芯片设计技术岑岭论坛”上体现：“针对我国芯片制备受制裁的情况，探索CMOS冗余数、概率数、剩余数甚至高维数系的运算机制，才是我国制止依赖芯片工艺还能提高算力的有效手段。”

李洪革,北京航空航天大学责任教授

什么是盘算芯片？

CPU是最古板的盘算芯片，泛起于大规模集成电路时代�？梢运�，有盘算机以来就有CPU。它是盘算机系统的运算和控制焦点，擅长种种任务的调理，是信息处理、程序运行的最终执行单位。1971年英特尔推出了世界上第一台微处理器4004，有2300个晶体管，是第一个用于盘算器的4位微处理器。虽然这款产品的功效相当有限，且运行速度慢，可是它是第一个运用到个人使用的微机中，由此也开启了CPU的生长之路。

第二类盘算芯片就是GPU。1999年，NVIDIA公司在宣布其标记性产品GeForce256时，首次提出了GPU的看法。GeForce256是由NVIDIA研发的第五代显示焦点，拥有2300万个晶体管，是256-bit显示架构，拥有4条像素流水线。每一条有4个像素单位，1个材质单位。三角形生成率是每秒1500万个，像素生成率则是每秒4亿8000万个。NVIDIA率先将硬件T&L整合到GPU中。在此之前，电脑中处理影像输出的显示芯片，通常很少被视为是一个独立的运算单位。GeForce 256凭着它的功效和速度，在各显卡的强力竞争下，令NⅥDIA的电脑图形工业霸主职位更坚固。

1亿美元买2500块GH200组成的Iso-Budget数据中心，功耗是3MW，AI推理性能抵达CPU系统的12倍，能效达20倍。

GPU即图像处理器，是Graphics Processing Unit的缩写，又被称为显示焦点、视觉处理器、显示芯片。它和CPU的事情流程和物理结构大致相似，不过在处理图形数据和庞大算法方面拥有比CPU更高的效率。CPU大部分面积为控制器和寄存器，而GPU是基于大的吞吐量设计，有许多的算术运算单位和很少的缓存。相较CPU，GPU的事情则更为简单，只处理最简单的数学盘算指令，但它内部有几千个处理单位可以同时做处理，因此特别擅长做简单但大规模的并发盘算，别的，GPU具有高并行结构，且拥有更多的ALU(Arithmetic Logic Unit，算术逻辑运算单位)，用于数据盘算处理，这样的结构更适合对密集型数据进行并行处理。

另有一类盘算芯片，即TPU。它始于算力瓶颈，首秀即是2016年惊动世界的人机大战——AlphaGo对战李世石。那一年，AlphaGo以4:1总分击败围棋世界冠军李世石，随后独战群雄。区别于GPU，谷歌TPU是一种ASIC芯片计划，是一种专为某种特定应用需求而定制的芯片。第一代谷歌仅用于深度学习推理，TPU接纳了28nm工艺制造，功耗约为40W，主频700MHz，同时，TPU通过PCIe Gen3 x16总线连接到主机，实现了12.5GB/s的有效带宽，平均比CPU/GPU快15倍到30倍，能耗比指标更高达30到80倍TOPS/W，单组TPU 的浮点盘算力达 180 Teraflops（万亿次每秒）。近日，谷歌推出其第五代TPU，可以通过接纳400 TB/s互连来配置多达256个芯片。谷歌体现，在 256 个芯片配置下，INT8 的算力将抵达 100 PetaOps。不过，通常，ASIC芯片的开发不但需要花费数年的时间，且研发本钱也极高。也就不差钱的谷歌，能一次又一次延续过往辉煌。

过往算力主要围绕超算场景，更依赖于CPU发挥，而随着盘算场景更多元化、盘算应用更庞大化之后，全球算力需求泛起出指数级增加，导致古板盘算方法已经无法满足新时代要求。在AI大算力时代确当下，CPU+GPU异构融合则是另一种思路，并正逐步成为主流。

事实上，AI的算力效劳器基本都是接纳CPU+GPU的模式，好比最典范的英伟达A100效劳器，就配置了2颗CPU和8颗GPU，其中2颗CPU卖力任务和数据调理，8颗GPU是真正卖力模型训练盘算的。再来看ChatGPT，它的“横空出生”加速了算力生长。从果真的数据显示，一代ChatGPT模型训练，只用了5GB的文本数据；二代用来40GB；3.5代用了45TB。ChatGPT模型的实质上是概率模型，这种模型的训练和推理，其实里面的每一步盘算都不庞大，全都是最基础的矩阵运算，好比矩阵乘法、矩阵加法等。只是需要做的运算量很是大。不过，他们相互之间并没有前后顺序的依赖，可以并发同时做。GPU就很是合适。一个GPU里有几千个处理单位，简单的问题重复做，很快就可以做完了。

不过，算力缺乏、能效过低，是目今人工智能硬件平台面临的两大艰巨挑战。李洪革老师在演讲中体现：“提高芯片算力的要害在于系统设计和芯片加工。系统设计，重在高性能微架构和先进算术运算，芯片加工则有赖于先进工艺制程和先进封装制备。”

下面，我们重点从系统设计的角度来谈谈，如何提升芯片的算力。

从系统设计提升芯片算力

高性能微架构

现在，无论是CPU照旧GPU，接纳的都是70年前的冯.诺伊曼体系架构。冯诺依曼体系结构是现代盘算机的基础。凭据冯诺依曼体系，CPU的事情分为以下 5 个阶段：取指令阶段、指令译码阶段、执行指令阶段、访存取数和结果写回。在该体系结构下，程序和数据统一存储，指令和数据需要从同一存储空间存取，经由同一总线传输，无法重叠执行。

在冯诺依曼架构中，盘算和存储功效划分由中央处理器和存储器完成。盘算机的 CPU 和存储器是相互独立生长的，

也就是CPU和内存是在差别芯片上的，而它们之间的通信要通过总线来进行。数据量少的时候没问题，但一旦数据变多，总线自己就会拥挤成为瓶颈。而现在的GPU，并行处理能力越来越强。当数据传输速度不敷时，就会限制算力的天花板，严重影响目标应用程序的功率和性能。

前阵子，美国对中国GPU的限制，就是对芯片总线代宽和算力联合做限制。所以英伟达在这个新规下，能对中国销售的A800芯片，它的总线带宽就必须从原来的A100的600GB每秒降低到400GB每秒，所以数据的传输代宽越来越成为GPU的瓶颈。

这也正是GPU目今面临的存储墙瓶颈，即“存储墙”与“功耗墙”瓶颈，严重制约了系统算力和能效的提升。业界许多也都在研究相关的解决计划，以实现更为有效的数据运算和更大的数据吞吐量，其中“存算一体”被认为是未来盘算芯片的架构趋势。就是把之前集中存储在外面的数据改为保存GPU的每个盘算单位内，每个盘算单位既卖力存储数据，又卖力数据盘算。

存算一体芯片市场辽阔，目前，海内外企业、科研院所纷纷结构。据 Gartner 预测，全球内存盘算市场将以每年 22% 的速度连续增长，截至 2020 年底有望抵达 130 亿美元。关于存算一体，我们不再详细探讨，后期，将再专门撰写关于存算一体的主题文章。

先进算术运算

逻辑电路和算术电路是盘算芯片的设计基础。二进制逻辑是目前数据盘算、信息传输的基础。众所周知，二进制逻辑（布尔代数）中，通常用0和1体现两个变量值中的一个。在盘算N*N维的矩阵乘法时，每盘算一个矢量元素将需要N^2个加法和乘法！硬件实现受限于布尔逻辑（二进制数）和冯氏架构代来的物理瓶颈，使恰目今的AI盘算芯片在算力突破方面面临极大的挑战。。

为了减小二进制盘算的硬件资源消耗，一种有别于布尔逻辑的概率（逻辑）盘算（Stochastic Computing，SC，或Stochastic Logic）在1967年由美国哈罗德标准电信实验B.Gaines和W.Poppe I baum提出，并详细剖析和说明概率盘算。概率逻辑是基于单比特位的伪随机序列的盘算，其激活“1”的概率与激活函数与权重成正比。概率盘算机中，算术运算是借助于体现数据的逻辑电平的随机和不相关性来执行的，并且由其“高电平”所占的概率来决定。也就是所爆发的“高电平”脉冲的频率体现其概率值。即遵循古典概型伯努利所证实的“当试验次数愈来愈大时，频率接近概率”。概率盘算已经在图像处理、通信、神经网络和深度学习中被使用。

古板概率盘算的优点：电路逻辑简单，极大减少电路面积，实现更高并行度；同等噪声水平，可实现比二进制更可靠的数值盘算；在电路结构稳定，可动态调理盘算准确性和时间。然而，古板概率也保存的明显缺乏。如，实现二进制数相同精度，概率脉冲长度需抵达2n，时间消耗大幅增加；连续多次盘算时，中途须转换回二进制再重新互斥编码，降低盘算效率。

北京航空航天大学教授李洪革老师在演讲中谈到：“尽管概率盘算比二进制盘算保存硬件消耗上的巨大优势，但其基于脉冲频率体现概率数值的实质带来了较大的盘算时延的问题。”基于此，李洪革老师的研究团队提出了混淆概率逻辑盘算取代原始单比特流概率盘算的思想。该要领利用多位流的期望值来取代古板概率盘算。

与古板的单比特流相比，混淆逻辑盘算突破了古板SC长时延的制约，实现了低时延和低面积。实验证明了混淆逻辑盘算规则的合理性，使用该要领乘法器延迟降低了1/2m，且抵达零过失盘算。关于8-bit输入数据，混淆逻辑作为乘法器的面积效率是经典SC要领的11.3倍。在2022年伊始，该思想被国际电路与系统顶会ISCAS和IEEE 权威期刊TVLSI等多位国际专家所认可并全文接收。

结束语

人类社会一直在孜孜不倦地追求对信息处理的盘算能力的提升，ChatGPT的泛起即是一个很好的案例。冯·诺依曼(Von Neumann)架构盘算机在某些特殊应用场景中的局限性也逐步凸显。类脑盘算、概率盘算等新兴盘算模式和结构不绝涌现，将满足人工智能、数据中心等应用对高负载、低能耗盘算的需求，成为未来智能盘算的突破口。

北京航空航天大学教授李洪革领导的类脑芯片研究团队提出：“类脑芯片如果照旧凭据二进制数来实现，那么可能势必挣脱不了GPU、CPU自己对数进行界说的局限性。能否转换思维，将片上运算转换成非二进制数，即基于脉冲序列来体现的数—即概率脉冲数。”据了解，目前，该研究团队已经实现了混淆概率盘算类脑脉冲神经网络芯片的设计、测试和应用。期待在李洪革老师的领导下，能为国产盘算芯片的生长带来革新，并成为未来智能盘算的突破口。

上一篇硅光子应用成下一代半导体不可或缺技术，台积电、英特尔竞相加入

下一篇车用传感器：确保高精度

分享到：

yh533388银河

突破芯片制裁 ，现有工艺下提升盘算芯片算力有哪些效手段？

突破芯片制裁，现有工艺下提升盘算芯片算力有哪些效手段？