麻省理工学院的研究人员推出了“闪电(Lightning)”，这是一种可重新配置的光子电子SmartNIC，能够以100 Gbps的速度实时提供深度神经网络查询服务。
摩尔定律预言电子芯片上的晶体管数量每年翻一番，但由于物理限制，摩尔定律正在放缓。在计算机功率下降的同时，人们对支持复杂人工智能模型的高性能计算机的需求却在不断增加。这种不便促使工程师们探索扩展机器计算能力的新方法，但解决方案仍不清楚。
光子计算利用光子这种微小的光粒子，而不是晶体管和导线来执行模拟领域的计算操作。通过利用光的速度，光子计算可以大大提高机器的计算能力。激光产生这些以光速传播的小能量束，就像科幻电影中以超速飞行的宇宙飞船一样。当光子计算核心添加到网络接口卡（NIC 及其增强版 SmartNIC）等可编程加速器中时，所得硬件可以通过连接来为标准计算机提供涡轮增压。
最近，麻省理工学院的研究人员开发了一种名为“闪电(Lightning)”的光子电子可重构智能网络集成电路(SmartNIC)，它可以加速机器学习，特别是用于图像识别和语言生成的深度神经网络。
“Lightning: A Reconfigurable Photonic-Electronic SmartNIC forFast and Energy-Efficient Inference”
该原型是首个可满足实时机器学习推理请求的光子计算系统。
在“闪电”网络出现之前，光子和电子计算电路独立运行，使用不同的语言。
与电子设备不同，光子计算设备缺乏内存和控制数据流的指令，这是实施光子计算设备的挑战之一。然而，“闪电”系统通过将光子技术与电子技术无缝连接，克服了这一障碍。这种混合系统结合了光子学的速度和电子计算机的数据流控制能力，提供了一种统一的语言来控制两个组件之间的数据流。
具体来说，在“闪电”中集成光子学和电子学可实现快速实时计算：电子携带的信息被转换成光子形式的光，光子以光速传播，帮助完成推理任务。然后光子被转换回电子以将信息传输到计算机。以前的光子计算采用的是“走走停停”的方法，即通过控制软件对数据流的移动进行决策，从而减缓数据流的速度；相比之下，“闪电”的计数动作编程抽象就像肌肉记忆一样，在运行时驱动系统中的电子和光子。
除了计算优势外，光子计算还具有环境效益。依赖于大量计算资源的机器学习服务既昂贵（据估计，ChatGPT每月运行费用为300万美元）又不利于环境。另一方面，“闪电”利用的光子产生的热量更少，移动速度比电线中的电子更快，因此更加节能。研究人员将他们的设备与标准 GPU、数据处理单元、SmartNIC 和其他加速器进行了比较，观察到“闪电”大大降低了功耗，为数据中心提供了更具成本效益和环保的选择。
“闪电”的端到端推理延迟与最先进的光子计算演示对比
“闪电”的数据流器将一系列同步并行数据流送入光子计算核心
与最先进的加速器相比，“闪电”的平均推理服务时间加快了
“我们的综合和模拟研究表明，与最先进的加速器相比，‘闪电’网络将机器学习的功耗降低了一个数量级，”Ghobadi实验室的研究生、该论文的合著者Mingran Yang说道。
“光子计算在加速繁琐的线性计算任务（如矩阵乘法）方面具有显著优势，而其余部分则需要电子设备来完成：内存访问、非线性计算和条件逻辑。”麻省理工学院信息学与人工智能实验室(CSAIL) Mania Ghobadi副教授团队的博士后研究员Zhizhen Zhong也解释道：“这就产生了大量的数据，需要在光子学和电子学之间进行交换，以完成查询机器学习输出等实际计算任务。管理光子和电子之间的数据流一直是过去最先进光子计算的致命弱点。即使你拥有一台超快的光子计算机，你也需要足够的数据为其提供不间断的动力。否则，超级计算机就会处于待机状态，无法进行任何智能计算。”他们成功将光子学的速度与电子计算机的数据流控制能力结合起来，无疑是一大壮举。
总之，光子计算在满足机器学习日益增长的计算需求方面大有可为。麻省理工学院研究人员开发的“闪电”系统展示了光子计算在加速实时机器学习推理任务方面的能力——光子计算具有加快计算速度和提高能效的潜力，可以成为未来计算系统的重要工具。
该小组将于本月在计算机协会数据通信特别兴趣小组(SIGCOMM)上展示他们的研究结果。
[1]https://ts2.space/en/photonic-computing-offers-solution-to-growing-computational-demands/
[2]https://seatine.com/beyond-moores-law-mits-innovative-lightning-system-combines-light-and-electrons-for-faster-computing/
[3]https://www.csail.mit.edu/news/system-combines-light-and-electrons-unlock-faster-greener-computing
