后摩智能与高校合作研究成果荣获ISCA 2025最佳论文奖
近日,后摩合作北京后摩智能科技有限公司与北京大学集成电路学院孙广宇长聘副教授团队、智能最佳上海交通大学张宸助理教授团队、高校香港科技大学谢源讲席教授团队、研究东南大学司鑫副教授团队及阿里巴巴达摩院合作的成果研究成果《H2-LLM: Hardware-Dataflow Co-Exploration for Heterogeneous Hybrid-Bonding-based Low-Batch LLM Inference》,成功荣获第52届计算机体系结构国际研讨会(ISCA)最佳论文奖。荣获作为国内学术机构在该会议上的论文首次获奖成果,其核心创新聚焦于边缘侧大语言模型(LLM)推理加速架构的后摩合作关键技术突破,为解决边缘设备高效LLM推理难题提供了创新性方案。智能最佳
随着LLM在智能对话、高校代码生成、研究边缘推理等场景的成果规模化应用,如何在边缘设备上实现低延迟、荣获高能效的论文推理计算,成为行业亟待攻克的后摩合作技术瓶颈。现有DRAM近存计算架构虽具备高带宽优势,但受限于芯片计算逻辑嵌入设计,算力供给不足,难以满足边缘侧对计算密集型任务的加速需求。针对这一挑战,合作团队基于混合键合(Hybrid Bonding)新兴工艺,研发出面向边缘侧的H2-LLM推理加速架构。该架构通过提出通用近存计算架构模板,抽象设计空间以协调工艺中算力与带宽的权衡,并采用“以数据为中心”的数据流抽象优化异构硬件资源利用,实现了计算密集型与访存密集型算子的协同加速。实验数据显示,相较于基线DRAM近存架构,H2-LLM在LLM推理的预填充(Prefill)和解码(Decoding)阶段实现2.72倍的性能提升与1.48倍的能效优化,为边缘设备部署大语言模型提供了关键技术支撑。
此次成果是产学研协同创新的典范。北京大学孙广宇团队在领域定制芯片架构设计与自动化领域处于国际领先地位,研究成果多次获得顶级会议和期刊的最佳论文奖,并在多款芯片设计中实现产业验证。后摩智能与上海交通大学、东南大学、阿里巴巴达摩院的合作,充分发挥了各方在学术研究、技术开发和应用场景方面的优势,推动了边缘计算与大模型推理技术的工程化落地。
ISCA作为计算机体系结构领域的顶级国际会议,自1973年创办以来,始终是学术界与产业界技术交流的核心平台,与MICRO、HPCA、ASPLOS并称“体系结构四大会”。谷歌TPU、寒武纪芯片、华为昇腾等具有全球影响力的架构创新均曾在此首发。此次获奖标志着中国在边缘计算与LLM推理架构领域的研究已跻身国际顶尖行列,对推动我国人工智能底层技术发展具有重要意义。
未来,后摩智能将继续秉承开放合作、创新驱动的理念,与更多顶尖高校、科研机构和企业开展深度合作,共同推动智能计算技术的创新与发展。同时,后摩智能也将继续加强与各方的合作,围绕国家新一代人工智能战略需求,持续聚焦边缘侧计算与大模型推理的技术融合,共同推动智能计算技术的产业化应用。
- ·市委党校组织公务员来光明工业园培训
- ·信息透明才能放心消费 深圳市消委会巧用消费投诉公示走出社会监督新路径
- ·友谊赛:科佩尔对阵国际米兰发布会信息
- ·太忻建设一集团领导与山西省太原市阳曲县委副书记、县长会谈
- ·庆东纳碧安×奥维云:当专业产品遇上行业专家,全力打造零冷水产品行业新标杆
- ·人民币对美元今日汇率 人民币兑美元询价日内走势图
- ·厦门金门同放焰火 点燃两岸浓浓的亲情
- ·海康威视入选文化和旅游部技术创新中心建设名单
- ·佛事、茶叶、素食三展持续进行 参展效果好 吸睛又吸金
- ·错位营销助力十大壁挂炉品牌有效抢占市场
- ·太忻建设集团领导与山西省太原市人大常委会副主任、清徐县委书记会谈
- ·两湾建设三集团领导与山西省晋中市太谷区水利局党组书记、局长会谈
- ·泉州:专家模拟测评 指出创卫短板
- ·日本BitSummit独立游戏展会阵容揭晓 游戏界传奇云集!
- ·云峰新材(莫干山)上交所IPO新受理,2022上半年净利1.02亿元!
- ·18日早报:迈卡威新号码确定 小牛签约考神弟弟