1. 项目概述当随机计算遇上存内计算在芯片设计领域干了十几年我见过太多为了追求极致能效和算力而绞尽脑汁的方案。传统的冯·诺依曼架构计算和存储分离数据在两者之间来回搬运产生的“内存墙”问题就像一条越来越宽的护城河严重制约了系统性能尤其是在处理图像识别、贝叶斯推理这类需要海量数据并行处理的任务时。与此同时随着晶体管尺寸逼近物理极限热噪声和随机比特翻转带来的可靠性挑战也日益严峻。正是在这种背景下随机计算和存内计算这两种非传统计算范式走进了我们的视野。随机计算的核心思想很巧妙它不直接用0和1的确定值来表示数据而是用一长串随机比特流中“1”出现的概率来编码一个数值。比如概率0.3就代表数值0.3。这样做的好处是一些复杂的算术运算比如乘法、除法、甚至指数函数可以用极其简单的逻辑门比如一个与门就能做乘法来实现硬件开销极低并且对电路中的噪声和随机错误天生具有鲁棒性。然而它的“阿喀琉斯之踵”在于生成这些高质量随机比特流的硬件——传统的CMOS随机数生成器如线性反馈移位寄存器或环形振荡器往往会吃掉整个电路80%以上的面积和能耗这让随机计算的能效优势大打折扣。另一方面存内计算旨在打破“内存墙”将计算单元直接嵌入到存储阵列中实现数据在原地处理。计算随机存取存储器正是这一方向的明星架构。但传统的CRAMconv-CRAM处理的是确定性二进制数据在面对需要复杂概率运算的神经形态计算任务时其硬件成本和噪声敏感性问题依然突出。那么有没有可能把这两者的优势结合起来创造一个“112”的方案明尼苏达大学团队提出的SC-CRAM方案就给出了一个令人兴奋的答案。它的核心创新在于利用磁隧道结这种器件的固有物理随机性直接在CRAM阵列内部、在同一个硬件单元中完成了随机比特的生成和后续的逻辑计算。这相当于把随机计算的“发动机”和“处理器”做成了一个不可分割的整体从根源上消除了随机数生成带来的额外面积和延迟开销。简单来说SC-CRAM不是简单地把一个随机数生成器模块塞进内存里而是让内存里的每一个存储单元本身就具备了“随机化”和“计算”的双重能力。这篇文章我就结合自己多年在电路设计和新兴计算架构评估方面的经验为你深入拆解SC-CRAM这项技术。我会从它的核心设计思路讲起一步步剖析它是如何在CRAM阵列中调度任务、实现各种算术功能的并通过几个具体的应用案例如图像阈值分割、贝叶斯推理对比分析它与传统方案在面积、延迟、能耗和噪声容限上的优劣。无论你是从事芯片设计的工程师还是对前沿计算架构感兴趣的研究者相信都能从中看到一种解决未来计算挑战的全新可能性。2. SC-CRAM的核心设计思路与架构拆解要理解SC-CRAM的精妙之处我们得先把它拆成几个关键部分来看它所依赖的物理器件基础、它所构建的计算架构以及它是如何将随机性与计算在时间和空间上融合的。2.1 物理基石磁隧道结的随机开关特性SC-CRAM方案的核心物理器件是磁隧道结。你可以把它想象成一个纳米尺度的“磁阀门”。它由两层铁磁层和中间一层极薄的绝缘层隧道势垒构成。其中一层铁磁层的磁化方向是固定的参考层另一层自由层的磁化方向可以改变。当两层磁化方向平行时MTJ呈现低电阻态反平行时呈现高电阻态。这两种状态可以分别代表逻辑“0”和“1”。MTJ之所以能成为随机计算的理想器件关键在于其开关过程的内在随机性。当我们施加一个电压脉冲称为扰动脉冲Perturb Pulse试图翻转自由层的磁化方向时成功翻转的概率并非100%。这个概率受到热涨落的显著影响并且可以通过精确控制脉冲的电压幅值和持续时间来连续、可调地设定。例如施加一个特定强度和宽度的电压脉冲可能让MTJ有30%的概率从平行态翻转到反平行态。这种概率性开关特性使得单个MTJ就能作为一个可调的真随机数发生器这正是生成随机计算所需比特流的物理基础。注意MTJ的这种随机性源于物理本质与基于确定性算法的CMOS伪随机数生成器有根本区别。后者生成的序列在理论上是可以预测的而MTJ产生的是基于热力学噪声的真随机数这为随机计算提供了更坚实的随机性保障也避免了为提升“随机性质量”而增加的电路复杂度。2.2 计算舞台CRAM阵列的存算一体架构有了随机的“砖块”我们还需要一个能高效砌墙的“工地”。这就是计算随机存取存储器阵列。传统的STT-MRAM存储单元是1晶体管1 MTJ1T1M结构主要用于存储。而CRAM单元则升级为2晶体管1 MTJ2T1M结构这多出来的一个晶体管和额外的控制线是其实现存内计算的关键。CRAM阵列有两种工作模式存储模式此时操作和普通内存类似通过字线选择特定行在位线上进行数据的读取或写入。逻辑模式这是其精髓所在。在逻辑模式下通过启用逻辑位线可以将同一行内的多个MTJ单元通过一条共享的“逻辑线”连接起来。通过对各个单元的位选择线施加特定的电压组合就能让电流流经这些串联的MTJ最终根据电流大小决定输出单元的状态是否翻转从而实现如与、或、非等基本逻辑运算。这意味着数据不需要被读出到外部的ALU计算直接在存储数据的原地完成。2.3 灵魂融合SC-CRAM的任务调度与嵌入策略SC-CRAM的创新正是将上述两者深度融合。它不再像传统随机计算那样先在一个地方RNG模块生成随机比特流再把这些比特流送到另一个地方计算单元进行处理。SC-CRAM设计了一套全新的任务调度周期每个计算周期包含四个同步的步骤复位将所有参与计算的MTJ包括输入和输出单元初始化为一个已知的确定状态通常是平行态。扰动仅对输入单元施加特定幅值的电压脉冲。每个输入MTJ会根据脉冲参数设定的概率独立地、随机地切换到反平行态或保持原状。这一步就是随机比特的“生成”时刻。脉冲的电压值直接对应了输入数据的概率值例如图像中某个像素的灰度值。逻辑紧接着CRAM阵列切换到逻辑模式。根据预设的逻辑功能如AND、MUX对已经处于随机状态的输入MTJ施加逻辑运算电压。电流流经这些MTJ确定性地改变输出MTJ的状态。这一步就是利用上一步生成的随机状态进行“计算”。读取读取输出MTJ的最终电阻状态得到本次时钟周期的计算结果0或1。这个流程的精妙之处在于时空统一“生成”和“计算”发生在相同的硬件单元MTJ和相同的时钟周期内。扰动步骤结束后输入MTJ的随机状态立即被用于逻辑计算没有数据搬运开销。概率直接映射模拟的输入数据电压值直接控制MTJ的翻转概率省去了传统方案中先进行模数转换再与随机数比较的复杂电路。步骤重叠优化对于多级计算可以将前一级的“读取”步骤与后一级的“逻辑”步骤在时间上重叠进一步压缩整体计算延迟。通过这种设计SC-CRAM成功地将随机计算的概率编码优势与存内计算的高能效、低延迟优势结合在了一起形成了一种真正“内生”的随机计算架构。3. 关键算术功能在SC-CRAM中的实现详解理解了SC-CRAM的基本调度周期后我们来看看它如何具体实现随机计算中那些关键的算术功能。这就像知道了汽车的发动机原理现在要看看它怎么实现加速、转弯和倒车。在随机计算中复杂的数学运算被分解为对随机比特流的逻辑操作。3.1 基础运算乘法、缩放加法与绝对值减法乘法这是随机计算最直观的优势。两个独立的随机比特流A和B它们同时为“1”的概率就是P(A)*P(B)。因此用一个简单的与门对两个比特流进行逐比特的与操作输出的比特流中“1”的概率就等于两个输入概率的乘积。在SC-CRAM中这直接对应着在CRAM阵列中配置一个AND逻辑操作。如图4所示输入MTJA和B在扰动步骤后随机置位然后在逻辑步骤中通过施加合适的电压使输出MTJY的状态由A和B的串联状态决定实现了嵌入式的随机乘法。缩放加法对两个概率值进行加权求和例如 Y S*A (1-S)*B其中S是一个选择概率。这可以通过一个多路复用器来实现。MUX根据第三个选择比特流S的值决定输出是A还是B。当S固定为0.5时就实现了取平均的功能。在SC-CRAM中实现MUX需要多个步骤先对A、B、S进行扰动然后通过NOT、AND和OR逻辑的组合来模拟MUX功能如图5。另一种更节省资源的方法是使用三输入多数门当其中一个输入固定为0.5时其输出就是另外两个输入概率的平均值。MAJ3门在SC-CRAM中所需的MTJ数量和计算步骤都比MUX少但灵活性稍差。绝对值减法计算 |P(A) - P(B)|。这可以通过异或门来实现。但需要注意的是异或门输出概率等于|P(A)-P(B)|的前提是两个输入比特流A和B是最大相关的即一个总是另一个的反。在大多数计算中我们需要比特流尽量不相关但有些特定应用如后文将提到的局部图像阈值化可以利用这种特性。SC-CRAM中实现XOR需要NAND、OR和AND逻辑的组合如图6。实操心得在选择使用MUX还是MAJ3进行缩放加法时需要权衡。如果只是简单的两输入平均MAJ3更高效。但如果需要非0.5的权重或者要进行多输入加权和MUX虽然步骤多但架构更规整易于扩展。在实际硬件映射时这是一个关键的优化点。3.2 复杂函数平方根与缩放除法随机计算的威力在于它还能用简单的门电路逼近一些复杂的函数。平方根计算 Y ≈ √X。论文中展示了一种巧妙的实现方式如图7。它需要两个独立的、概率均为X的比特流X1, X2以及两个固定概率的比特流C10.67, C20.18。通过一层AND逻辑和两层OR逻辑的组合最终输出的比特流Y的概率近似等于√X。这里的数学原理涉及概率论的组合其核心思想是通过逻辑门的组合来构造一个输出概率与输入概率呈平方根关系的函数。缩放除法计算 Y ≈ A / (A B)。这是一个非常重要的函数在贝叶斯推理中无处不在后验概率计算。在随机计算中这可以通过一个JK触发器的电路来近似实现如图8。将比特流A和B分别接入J和K端在一定的时钟周期后触发器输出Q的概率就会收敛到 A/(AB)。在SC-CRAM中需要构建一个由多个NAND门和缓冲器组成的时序电路来模拟JK触发器的行为。表1SC-CRAM中各类算术功能的硬件开销与步骤对比相对于传统CRAM算术功能SC-CRAM所需MTJ数量 (相对值)SC-CRAM计算步骤 (相对值)SC-CRAM子阵列规模 (行x列)传统CRAM子阵列规模 (行x列)乘法显著减少(约1/10量级)增加 (约2-3倍)单行多行缩放加法 (MUX)减少显著增加(约10倍)单行多行绝对值减法 (XOR)减少显著增加(约10倍)单行多行平方根显著减少(约1/20量级)减少(约1/3)单行多行缩放除法 (JK-FF)减少增加 (约5倍)单行多行从上表我们可以解读出SC-CRAM的几个关键特征面积优势巨大对于所有功能尤其是乘法和平方根SC-CRAM所需的MTJ数量远少于传统CRAM。这是因为传统CRAM处理8位二进制数需要复杂的加法器、乘法器阵列如华莱士树而SC-CRAM用几个MTJ和简单的逻辑连线就实现了相同功能。延迟的权衡除了平方根运算SC-CRAM其他功能的计算步骤数都多于传统CRAM。这是随机计算的固有特点用更简单的硬件但需要更多的时钟周期比特流长度来达到精度。然而步骤多不等于总时间长因为SC-CRAM的每个步骤可能更短且能重叠执行。阵列规模扁平化所有SC-CRAM运算都只需要单行子阵列而传统CRAM的复杂运算需要多行。这一点至关重要。更少的行数意味着互连寄生效应如IR压降更小从而带来更高的噪声容限和电路可靠性。4. 应用案例实战与性能深度评估理论再优美也需要实战检验。论文中选择了四个具有代表性的神经形态计算应用来评估SC-CRAM这些应用恰好涵盖了随机计算的优势领域。我们来逐一拆解并看看SC-CRAM到底表现如何。4.1 应用一局部图像阈值化任务描述这是一个经典的图像处理步骤用于将灰度图像转换为二值图像黑白。例如Sauvola算法它为每个像素计算一个局部阈值根据该像素邻域内的均值和标准差动态决定该点应为黑还是白。计算涉及均值、标准差需要平方、开方、比较等操作。SC-CRAM实现图像的每个像素值被转换为电压控制对应输入MTJ的翻转概率。在CRAM阵列中通过组织MTJ单元并行地对多个像素邻域执行包含乘法、平方根、缩放的运算链。随机计算的噪声免疫特性在这里特别有用因为图像处理本身允许一定的近似。性能亮点如表3所示对于此应用SC-CRAM使用的CRAM单元数比传统CRAM少约180倍计算步骤数少约1/3。最关键的是SC-CRAM的噪声容限远高于传统CRAM使得其实用性大大增强。虽然SC-CRAM的总能耗是传统CRAM的12.9倍但考虑到传统CRAM的能耗本就比现代近存处理系统低约40倍SC-CRAM的能耗水平仍然极具竞争力。4.2 应用二三贝叶斯推理与信念网络任务描述对象定位根据传感器的不确定观测数据推断目标最可能的位置。这涉及大量的条件概率乘法和归一化缩放除法。心脏病预测基于贝叶斯信念网络综合多个风险因素年龄、血压、胆固醇等计算发病概率。网络中的每个节点都进行概率信息的融合与传递。SC-CRAM实现贝叶斯公式中的连乘运算天然适合用随机计算的与门实现。后验概率计算中的归一化除以总和则通过前文提到的JK触发器缩放除法来实现。整个推理网络可以映射到CRAM阵列中形成并行的概率更新流水线。性能亮点在这两个应用中SC-CRAM在单元数量上仍有20-60倍的优势。在计算步骤上对象定位应用两者相当而心脏病预测应用SC-CRAM步骤数减少约一半。两者的总能耗处于同一数量级。这表明对于这类以概率乘除为核心的算法SC-CRAM在保持能效的同时大幅缩减了硬件面积。4.3 应用四核密度估计任务描述一种非参数的概率密度估计方法在机器学习中用于数据分布建模。计算涉及对每个数据点施加一个核函数如高斯函数并求和。核函数计算通常涉及指数或类似复杂函数。SC-CRAM实现利用随机计算可以用多项式通过乘加操作或特定逻辑电路逼近复杂函数如指数、双曲正切的能力在阵列内实现核函数的计算和求和。性能亮点SC-CRAM的单元数优势约为20倍步骤数相当但能耗是传统CRAM的5.4倍。然而与传统CRAM极低的噪声容限几乎不可行相比SC-CRAM提供了可靠的运行电压窗口使其成为唯一可行的存内计算解决方案。表2四个应用场景下SC-CRAM vs. Conv-CRAM全面性能对比性能指标局部图像阈值化贝叶斯推理 (对象定位)贝叶斯信念网络 (心脏病预测)核密度估计CRAM单元数减少倍数~180x~60x~20x~20x计算步骤数对比SC-CRAM少 ~1/3两者相当SC-CRAM少 ~1/2两者相当总能耗对比SC-CRAM高 12.9x两者同一量级两者同一量级SC-CRAM高 5.4x噪声容限SC-CRAM可行Conv-CRAM过低不可行SC-CRAM显著更高SC-CRAM显著更高SC-CRAM可行Conv-CRAM过低不可行关键优势面积巨幅减少可靠性高面积减少能效相当面积减少延迟更低唯一可行的存内计算方案4.4 能耗分解与深入洞察图9的能耗饼图提供了更细微的洞察。在SC-CRAM中总能耗由复位、扰动、逻辑三步构成。其中扰动步骤即随机比特生成的能耗占比很小在四个应用中最高仅占9.5%对象定位最低的甚至不到1%。这与传统CMOS随机计算中随机数生成占80%能耗的常态形成了鲜明对比。SC-CRAM的能耗大头依然是逻辑操作其次是复位。这揭示了一个重要结论SC-CRAM通过硬件层面的融合几乎将随机比特生成的“额外”能耗降到了零。它主要的能耗开销与执行计算本身相关而非为计算准备随机数。这使得它的能效模型与传统计算架构更具可比性而其面积和可靠性优势则成为额外的红利。5. 设计考量、挑战与未来展望尽管SC-CRAM前景诱人但从实验室走向实际芯片还有一系列工程挑战需要攻克。结合我的经验以下几个问题至关重要5.1 精度与比特流长度的权衡随机计算的根本限制在于精度。输出概率的估计精度与随机比特流的长度N的平方根成正比~1/√N。要达到8位二进制精度约0.4%误差需要约256位的比特流长度。这意味着每个计算需要重复256个时钟周期。挑战对于高精度应用如科学计算可能需要更长的比特流导致延迟增加。应对策略混合精度设计系统关键路径或对误差敏感的部分采用较高精度长比特流其他部分采用较低精度短比特流。非传统编码探索双极编码、值域重叠编码等可能在某些运算上获得更好的精度-效率权衡。与确定性计算融合构建异构系统让SC-CRAM处理其擅长的近似计算、概率推理部分而让传统ALU处理需要精确结果的确定性问题。5.2 MTJ器件非理想性的影响SC-CRAM的性能严重依赖于MTJ的器件特性。工艺波动不同MTJ之间的开关概率可能存在偏差导致计算系统性误差。耐久性与漂移MTJ在多次翻转后特性可能退化概率特性发生漂移。温度敏感性热涨落是随机性的来源但温度变化也会影响开关概率的标定。应对策略片上校准电路集成简单的电路定期测量和校准关键MTJ的开关概率曲线。冗余设计与错误校正采用多数表决或更复杂的概率纠错码来容忍个别单元的偏差。算法层面的鲁棒性设计利用随机计算和贝叶斯方法本身对噪声的容忍性在算法层面吸收部分硬件误差。5.3 系统集成与编程模型如何高效地将一个算法映射到SC-CRAM阵列上是一个复杂的编译器和工具链问题。挑战需要将计算图如贝叶斯网络、神经网络层高效地分割、调度到二维的CRAM阵列中优化数据流最小化中间结果的移动。应对策略开发专为SC-CRAM设计的高级综合工具或领域特定语言让开发者能够以高层次的概率运算描述算法由工具自动完成到MTJ阵列操作的映射、时序调度和电压配置。5.4 与其它存内计算方案的对比SC-CRAM并非存内计算的唯一路径。还有基于ReRAM/Memristor的模拟存内计算、基于SRAM的数字存内计算等。SC-CRAM的优势数字友好输出是明确的0/1抗噪声、概率计算原生支持、与成熟MRAM工艺的潜在兼容性。SC-CRAM的潜在劣势计算速度可能慢于纯模拟计算需要多个周期功能灵活性可能低于可编程的数字存内计算单元。未来方向SC-CRAM很可能不会取代所有计算而是在异构计算系统中作为一个高效的“概率处理单元”或“神经形态加速器”存在专门处理其擅长的任务。从我个人的角度看SC-CRAM最大的启发在于它提供了一种“从物理本质出发”的设计哲学。它没有试图用完美的数字电路去模拟或对抗噪声与随机性而是巧妙地利用器件本身的物理随机性作为计算资源并将计算深深地嵌入到存储的结构中。这种“顺应物理而非对抗物理”的思路或许是后摩尔时代突破能效和算力瓶颈的关键之一。当然这条路上布满了器件、电路、架构、工具链各方面的挑战但正是这些挑战为我们这些硬件工程师和研究者提供了广阔的探索空间。
SC-CRAM：基于磁隧道结的存内随机计算架构解析与应用
1. 项目概述当随机计算遇上存内计算在芯片设计领域干了十几年我见过太多为了追求极致能效和算力而绞尽脑汁的方案。传统的冯·诺依曼架构计算和存储分离数据在两者之间来回搬运产生的“内存墙”问题就像一条越来越宽的护城河严重制约了系统性能尤其是在处理图像识别、贝叶斯推理这类需要海量数据并行处理的任务时。与此同时随着晶体管尺寸逼近物理极限热噪声和随机比特翻转带来的可靠性挑战也日益严峻。正是在这种背景下随机计算和存内计算这两种非传统计算范式走进了我们的视野。随机计算的核心思想很巧妙它不直接用0和1的确定值来表示数据而是用一长串随机比特流中“1”出现的概率来编码一个数值。比如概率0.3就代表数值0.3。这样做的好处是一些复杂的算术运算比如乘法、除法、甚至指数函数可以用极其简单的逻辑门比如一个与门就能做乘法来实现硬件开销极低并且对电路中的噪声和随机错误天生具有鲁棒性。然而它的“阿喀琉斯之踵”在于生成这些高质量随机比特流的硬件——传统的CMOS随机数生成器如线性反馈移位寄存器或环形振荡器往往会吃掉整个电路80%以上的面积和能耗这让随机计算的能效优势大打折扣。另一方面存内计算旨在打破“内存墙”将计算单元直接嵌入到存储阵列中实现数据在原地处理。计算随机存取存储器正是这一方向的明星架构。但传统的CRAMconv-CRAM处理的是确定性二进制数据在面对需要复杂概率运算的神经形态计算任务时其硬件成本和噪声敏感性问题依然突出。那么有没有可能把这两者的优势结合起来创造一个“112”的方案明尼苏达大学团队提出的SC-CRAM方案就给出了一个令人兴奋的答案。它的核心创新在于利用磁隧道结这种器件的固有物理随机性直接在CRAM阵列内部、在同一个硬件单元中完成了随机比特的生成和后续的逻辑计算。这相当于把随机计算的“发动机”和“处理器”做成了一个不可分割的整体从根源上消除了随机数生成带来的额外面积和延迟开销。简单来说SC-CRAM不是简单地把一个随机数生成器模块塞进内存里而是让内存里的每一个存储单元本身就具备了“随机化”和“计算”的双重能力。这篇文章我就结合自己多年在电路设计和新兴计算架构评估方面的经验为你深入拆解SC-CRAM这项技术。我会从它的核心设计思路讲起一步步剖析它是如何在CRAM阵列中调度任务、实现各种算术功能的并通过几个具体的应用案例如图像阈值分割、贝叶斯推理对比分析它与传统方案在面积、延迟、能耗和噪声容限上的优劣。无论你是从事芯片设计的工程师还是对前沿计算架构感兴趣的研究者相信都能从中看到一种解决未来计算挑战的全新可能性。2. SC-CRAM的核心设计思路与架构拆解要理解SC-CRAM的精妙之处我们得先把它拆成几个关键部分来看它所依赖的物理器件基础、它所构建的计算架构以及它是如何将随机性与计算在时间和空间上融合的。2.1 物理基石磁隧道结的随机开关特性SC-CRAM方案的核心物理器件是磁隧道结。你可以把它想象成一个纳米尺度的“磁阀门”。它由两层铁磁层和中间一层极薄的绝缘层隧道势垒构成。其中一层铁磁层的磁化方向是固定的参考层另一层自由层的磁化方向可以改变。当两层磁化方向平行时MTJ呈现低电阻态反平行时呈现高电阻态。这两种状态可以分别代表逻辑“0”和“1”。MTJ之所以能成为随机计算的理想器件关键在于其开关过程的内在随机性。当我们施加一个电压脉冲称为扰动脉冲Perturb Pulse试图翻转自由层的磁化方向时成功翻转的概率并非100%。这个概率受到热涨落的显著影响并且可以通过精确控制脉冲的电压幅值和持续时间来连续、可调地设定。例如施加一个特定强度和宽度的电压脉冲可能让MTJ有30%的概率从平行态翻转到反平行态。这种概率性开关特性使得单个MTJ就能作为一个可调的真随机数发生器这正是生成随机计算所需比特流的物理基础。注意MTJ的这种随机性源于物理本质与基于确定性算法的CMOS伪随机数生成器有根本区别。后者生成的序列在理论上是可以预测的而MTJ产生的是基于热力学噪声的真随机数这为随机计算提供了更坚实的随机性保障也避免了为提升“随机性质量”而增加的电路复杂度。2.2 计算舞台CRAM阵列的存算一体架构有了随机的“砖块”我们还需要一个能高效砌墙的“工地”。这就是计算随机存取存储器阵列。传统的STT-MRAM存储单元是1晶体管1 MTJ1T1M结构主要用于存储。而CRAM单元则升级为2晶体管1 MTJ2T1M结构这多出来的一个晶体管和额外的控制线是其实现存内计算的关键。CRAM阵列有两种工作模式存储模式此时操作和普通内存类似通过字线选择特定行在位线上进行数据的读取或写入。逻辑模式这是其精髓所在。在逻辑模式下通过启用逻辑位线可以将同一行内的多个MTJ单元通过一条共享的“逻辑线”连接起来。通过对各个单元的位选择线施加特定的电压组合就能让电流流经这些串联的MTJ最终根据电流大小决定输出单元的状态是否翻转从而实现如与、或、非等基本逻辑运算。这意味着数据不需要被读出到外部的ALU计算直接在存储数据的原地完成。2.3 灵魂融合SC-CRAM的任务调度与嵌入策略SC-CRAM的创新正是将上述两者深度融合。它不再像传统随机计算那样先在一个地方RNG模块生成随机比特流再把这些比特流送到另一个地方计算单元进行处理。SC-CRAM设计了一套全新的任务调度周期每个计算周期包含四个同步的步骤复位将所有参与计算的MTJ包括输入和输出单元初始化为一个已知的确定状态通常是平行态。扰动仅对输入单元施加特定幅值的电压脉冲。每个输入MTJ会根据脉冲参数设定的概率独立地、随机地切换到反平行态或保持原状。这一步就是随机比特的“生成”时刻。脉冲的电压值直接对应了输入数据的概率值例如图像中某个像素的灰度值。逻辑紧接着CRAM阵列切换到逻辑模式。根据预设的逻辑功能如AND、MUX对已经处于随机状态的输入MTJ施加逻辑运算电压。电流流经这些MTJ确定性地改变输出MTJ的状态。这一步就是利用上一步生成的随机状态进行“计算”。读取读取输出MTJ的最终电阻状态得到本次时钟周期的计算结果0或1。这个流程的精妙之处在于时空统一“生成”和“计算”发生在相同的硬件单元MTJ和相同的时钟周期内。扰动步骤结束后输入MTJ的随机状态立即被用于逻辑计算没有数据搬运开销。概率直接映射模拟的输入数据电压值直接控制MTJ的翻转概率省去了传统方案中先进行模数转换再与随机数比较的复杂电路。步骤重叠优化对于多级计算可以将前一级的“读取”步骤与后一级的“逻辑”步骤在时间上重叠进一步压缩整体计算延迟。通过这种设计SC-CRAM成功地将随机计算的概率编码优势与存内计算的高能效、低延迟优势结合在了一起形成了一种真正“内生”的随机计算架构。3. 关键算术功能在SC-CRAM中的实现详解理解了SC-CRAM的基本调度周期后我们来看看它如何具体实现随机计算中那些关键的算术功能。这就像知道了汽车的发动机原理现在要看看它怎么实现加速、转弯和倒车。在随机计算中复杂的数学运算被分解为对随机比特流的逻辑操作。3.1 基础运算乘法、缩放加法与绝对值减法乘法这是随机计算最直观的优势。两个独立的随机比特流A和B它们同时为“1”的概率就是P(A)*P(B)。因此用一个简单的与门对两个比特流进行逐比特的与操作输出的比特流中“1”的概率就等于两个输入概率的乘积。在SC-CRAM中这直接对应着在CRAM阵列中配置一个AND逻辑操作。如图4所示输入MTJA和B在扰动步骤后随机置位然后在逻辑步骤中通过施加合适的电压使输出MTJY的状态由A和B的串联状态决定实现了嵌入式的随机乘法。缩放加法对两个概率值进行加权求和例如 Y S*A (1-S)*B其中S是一个选择概率。这可以通过一个多路复用器来实现。MUX根据第三个选择比特流S的值决定输出是A还是B。当S固定为0.5时就实现了取平均的功能。在SC-CRAM中实现MUX需要多个步骤先对A、B、S进行扰动然后通过NOT、AND和OR逻辑的组合来模拟MUX功能如图5。另一种更节省资源的方法是使用三输入多数门当其中一个输入固定为0.5时其输出就是另外两个输入概率的平均值。MAJ3门在SC-CRAM中所需的MTJ数量和计算步骤都比MUX少但灵活性稍差。绝对值减法计算 |P(A) - P(B)|。这可以通过异或门来实现。但需要注意的是异或门输出概率等于|P(A)-P(B)|的前提是两个输入比特流A和B是最大相关的即一个总是另一个的反。在大多数计算中我们需要比特流尽量不相关但有些特定应用如后文将提到的局部图像阈值化可以利用这种特性。SC-CRAM中实现XOR需要NAND、OR和AND逻辑的组合如图6。实操心得在选择使用MUX还是MAJ3进行缩放加法时需要权衡。如果只是简单的两输入平均MAJ3更高效。但如果需要非0.5的权重或者要进行多输入加权和MUX虽然步骤多但架构更规整易于扩展。在实际硬件映射时这是一个关键的优化点。3.2 复杂函数平方根与缩放除法随机计算的威力在于它还能用简单的门电路逼近一些复杂的函数。平方根计算 Y ≈ √X。论文中展示了一种巧妙的实现方式如图7。它需要两个独立的、概率均为X的比特流X1, X2以及两个固定概率的比特流C10.67, C20.18。通过一层AND逻辑和两层OR逻辑的组合最终输出的比特流Y的概率近似等于√X。这里的数学原理涉及概率论的组合其核心思想是通过逻辑门的组合来构造一个输出概率与输入概率呈平方根关系的函数。缩放除法计算 Y ≈ A / (A B)。这是一个非常重要的函数在贝叶斯推理中无处不在后验概率计算。在随机计算中这可以通过一个JK触发器的电路来近似实现如图8。将比特流A和B分别接入J和K端在一定的时钟周期后触发器输出Q的概率就会收敛到 A/(AB)。在SC-CRAM中需要构建一个由多个NAND门和缓冲器组成的时序电路来模拟JK触发器的行为。表1SC-CRAM中各类算术功能的硬件开销与步骤对比相对于传统CRAM算术功能SC-CRAM所需MTJ数量 (相对值)SC-CRAM计算步骤 (相对值)SC-CRAM子阵列规模 (行x列)传统CRAM子阵列规模 (行x列)乘法显著减少(约1/10量级)增加 (约2-3倍)单行多行缩放加法 (MUX)减少显著增加(约10倍)单行多行绝对值减法 (XOR)减少显著增加(约10倍)单行多行平方根显著减少(约1/20量级)减少(约1/3)单行多行缩放除法 (JK-FF)减少增加 (约5倍)单行多行从上表我们可以解读出SC-CRAM的几个关键特征面积优势巨大对于所有功能尤其是乘法和平方根SC-CRAM所需的MTJ数量远少于传统CRAM。这是因为传统CRAM处理8位二进制数需要复杂的加法器、乘法器阵列如华莱士树而SC-CRAM用几个MTJ和简单的逻辑连线就实现了相同功能。延迟的权衡除了平方根运算SC-CRAM其他功能的计算步骤数都多于传统CRAM。这是随机计算的固有特点用更简单的硬件但需要更多的时钟周期比特流长度来达到精度。然而步骤多不等于总时间长因为SC-CRAM的每个步骤可能更短且能重叠执行。阵列规模扁平化所有SC-CRAM运算都只需要单行子阵列而传统CRAM的复杂运算需要多行。这一点至关重要。更少的行数意味着互连寄生效应如IR压降更小从而带来更高的噪声容限和电路可靠性。4. 应用案例实战与性能深度评估理论再优美也需要实战检验。论文中选择了四个具有代表性的神经形态计算应用来评估SC-CRAM这些应用恰好涵盖了随机计算的优势领域。我们来逐一拆解并看看SC-CRAM到底表现如何。4.1 应用一局部图像阈值化任务描述这是一个经典的图像处理步骤用于将灰度图像转换为二值图像黑白。例如Sauvola算法它为每个像素计算一个局部阈值根据该像素邻域内的均值和标准差动态决定该点应为黑还是白。计算涉及均值、标准差需要平方、开方、比较等操作。SC-CRAM实现图像的每个像素值被转换为电压控制对应输入MTJ的翻转概率。在CRAM阵列中通过组织MTJ单元并行地对多个像素邻域执行包含乘法、平方根、缩放的运算链。随机计算的噪声免疫特性在这里特别有用因为图像处理本身允许一定的近似。性能亮点如表3所示对于此应用SC-CRAM使用的CRAM单元数比传统CRAM少约180倍计算步骤数少约1/3。最关键的是SC-CRAM的噪声容限远高于传统CRAM使得其实用性大大增强。虽然SC-CRAM的总能耗是传统CRAM的12.9倍但考虑到传统CRAM的能耗本就比现代近存处理系统低约40倍SC-CRAM的能耗水平仍然极具竞争力。4.2 应用二三贝叶斯推理与信念网络任务描述对象定位根据传感器的不确定观测数据推断目标最可能的位置。这涉及大量的条件概率乘法和归一化缩放除法。心脏病预测基于贝叶斯信念网络综合多个风险因素年龄、血压、胆固醇等计算发病概率。网络中的每个节点都进行概率信息的融合与传递。SC-CRAM实现贝叶斯公式中的连乘运算天然适合用随机计算的与门实现。后验概率计算中的归一化除以总和则通过前文提到的JK触发器缩放除法来实现。整个推理网络可以映射到CRAM阵列中形成并行的概率更新流水线。性能亮点在这两个应用中SC-CRAM在单元数量上仍有20-60倍的优势。在计算步骤上对象定位应用两者相当而心脏病预测应用SC-CRAM步骤数减少约一半。两者的总能耗处于同一数量级。这表明对于这类以概率乘除为核心的算法SC-CRAM在保持能效的同时大幅缩减了硬件面积。4.3 应用四核密度估计任务描述一种非参数的概率密度估计方法在机器学习中用于数据分布建模。计算涉及对每个数据点施加一个核函数如高斯函数并求和。核函数计算通常涉及指数或类似复杂函数。SC-CRAM实现利用随机计算可以用多项式通过乘加操作或特定逻辑电路逼近复杂函数如指数、双曲正切的能力在阵列内实现核函数的计算和求和。性能亮点SC-CRAM的单元数优势约为20倍步骤数相当但能耗是传统CRAM的5.4倍。然而与传统CRAM极低的噪声容限几乎不可行相比SC-CRAM提供了可靠的运行电压窗口使其成为唯一可行的存内计算解决方案。表2四个应用场景下SC-CRAM vs. Conv-CRAM全面性能对比性能指标局部图像阈值化贝叶斯推理 (对象定位)贝叶斯信念网络 (心脏病预测)核密度估计CRAM单元数减少倍数~180x~60x~20x~20x计算步骤数对比SC-CRAM少 ~1/3两者相当SC-CRAM少 ~1/2两者相当总能耗对比SC-CRAM高 12.9x两者同一量级两者同一量级SC-CRAM高 5.4x噪声容限SC-CRAM可行Conv-CRAM过低不可行SC-CRAM显著更高SC-CRAM显著更高SC-CRAM可行Conv-CRAM过低不可行关键优势面积巨幅减少可靠性高面积减少能效相当面积减少延迟更低唯一可行的存内计算方案4.4 能耗分解与深入洞察图9的能耗饼图提供了更细微的洞察。在SC-CRAM中总能耗由复位、扰动、逻辑三步构成。其中扰动步骤即随机比特生成的能耗占比很小在四个应用中最高仅占9.5%对象定位最低的甚至不到1%。这与传统CMOS随机计算中随机数生成占80%能耗的常态形成了鲜明对比。SC-CRAM的能耗大头依然是逻辑操作其次是复位。这揭示了一个重要结论SC-CRAM通过硬件层面的融合几乎将随机比特生成的“额外”能耗降到了零。它主要的能耗开销与执行计算本身相关而非为计算准备随机数。这使得它的能效模型与传统计算架构更具可比性而其面积和可靠性优势则成为额外的红利。5. 设计考量、挑战与未来展望尽管SC-CRAM前景诱人但从实验室走向实际芯片还有一系列工程挑战需要攻克。结合我的经验以下几个问题至关重要5.1 精度与比特流长度的权衡随机计算的根本限制在于精度。输出概率的估计精度与随机比特流的长度N的平方根成正比~1/√N。要达到8位二进制精度约0.4%误差需要约256位的比特流长度。这意味着每个计算需要重复256个时钟周期。挑战对于高精度应用如科学计算可能需要更长的比特流导致延迟增加。应对策略混合精度设计系统关键路径或对误差敏感的部分采用较高精度长比特流其他部分采用较低精度短比特流。非传统编码探索双极编码、值域重叠编码等可能在某些运算上获得更好的精度-效率权衡。与确定性计算融合构建异构系统让SC-CRAM处理其擅长的近似计算、概率推理部分而让传统ALU处理需要精确结果的确定性问题。5.2 MTJ器件非理想性的影响SC-CRAM的性能严重依赖于MTJ的器件特性。工艺波动不同MTJ之间的开关概率可能存在偏差导致计算系统性误差。耐久性与漂移MTJ在多次翻转后特性可能退化概率特性发生漂移。温度敏感性热涨落是随机性的来源但温度变化也会影响开关概率的标定。应对策略片上校准电路集成简单的电路定期测量和校准关键MTJ的开关概率曲线。冗余设计与错误校正采用多数表决或更复杂的概率纠错码来容忍个别单元的偏差。算法层面的鲁棒性设计利用随机计算和贝叶斯方法本身对噪声的容忍性在算法层面吸收部分硬件误差。5.3 系统集成与编程模型如何高效地将一个算法映射到SC-CRAM阵列上是一个复杂的编译器和工具链问题。挑战需要将计算图如贝叶斯网络、神经网络层高效地分割、调度到二维的CRAM阵列中优化数据流最小化中间结果的移动。应对策略开发专为SC-CRAM设计的高级综合工具或领域特定语言让开发者能够以高层次的概率运算描述算法由工具自动完成到MTJ阵列操作的映射、时序调度和电压配置。5.4 与其它存内计算方案的对比SC-CRAM并非存内计算的唯一路径。还有基于ReRAM/Memristor的模拟存内计算、基于SRAM的数字存内计算等。SC-CRAM的优势数字友好输出是明确的0/1抗噪声、概率计算原生支持、与成熟MRAM工艺的潜在兼容性。SC-CRAM的潜在劣势计算速度可能慢于纯模拟计算需要多个周期功能灵活性可能低于可编程的数字存内计算单元。未来方向SC-CRAM很可能不会取代所有计算而是在异构计算系统中作为一个高效的“概率处理单元”或“神经形态加速器”存在专门处理其擅长的任务。从我个人的角度看SC-CRAM最大的启发在于它提供了一种“从物理本质出发”的设计哲学。它没有试图用完美的数字电路去模拟或对抗噪声与随机性而是巧妙地利用器件本身的物理随机性作为计算资源并将计算深深地嵌入到存储的结构中。这种“顺应物理而非对抗物理”的思路或许是后摩尔时代突破能效和算力瓶颈的关键之一。当然这条路上布满了器件、电路、架构、工具链各方面的挑战但正是这些挑战为我们这些硬件工程师和研究者提供了广阔的探索空间。
