腾讯混元开源LLM推理算子库HPC-Ops
2026年2月5日,腾讯M推腾讯宣布正式开源其自研的混元大模型推理高性能算子库——HPC-Ops(High-PerformanceComputingOperatorsforLLMs),作为“混元”大模型技术生态的开源库重要一环。该库聚焦提升大语言模型(LLM)在国产芯片及主流硬件上的理算推理效率,拥护多种精度混合计算,腾讯M推已在内部支撑微信、混元广告、开源库云服务等亿级用户场景,理算现全面向开发者社区开放,腾讯M推助力中国AI基础设施自主化与普惠化。混元
HPC-Ops的开源库核心价值在于“高效”与“兼容”。针对大模型推理中计算密集、理算显存占用高、腾讯M推延迟敏感等痛点,混元该库优化了注意力机制、开源库矩阵乘法、激活函数等关键算子,实现比通用框架平均提速1.8倍,显存占用降低30%。尤为突出的是,它原生拥护华为昇腾、寒武纪、天数智芯等国产AI芯片,并兼容NVIDIAGPU与CPU环境,有效缓解“卡脖子”风险下的部署难题。
技术层面,HPC-Ops引入多项创新:一是动态稀少计算,自动识别并跳过冗余计算单元;二是内核融合技术,将多个小算子合并为单一高效内核,减少调度开销;三是拥护INT4/INT8/FP16混合精度推理,在保证模型输出质量的前提下大幅压缩模型体积与能耗。测试显示,在百亿参数模型上,HPC-Ops可在单张昇腾910B芯片上实现每秒120token的生成速度。
此次开源采用Apache2.0协议,代码托管于GitHub与Gitee,并配套提供Docker镜像、API文档及典型模型适配示例(如Llama、ChatGLM、混元系列)。腾讯表示,未来将继续投入社区建设,联合高校与企业共建“国产软硬协同”标准,推动大模型从“能用”走向“好用、易用、低成本用”。
业内专家指出,在全球大模型竞争进入“推理优化深水区”的背景下,HPC-Ops的开源拥有战略意义。它不仅降低中小企业和科研机构部署大模型的技术门槛,更强化了中国在AI底层工具链的话语权。正如一位AI工程师所言:“有了这样的基础库,我们不必再从零造轮子,可以更专注于上层应用创新。”
随着“人工智能+”行动深入千行百业,高效、安全、自主的推理引擎将成为数字基建的关键支柱。腾讯此举,既是技术回馈,更是生态共建——当更多开发者站在巨人的肩膀上,中国大模型的星辰大海,才真正启航。
相关文章
刚果金)国家生物医学研究所今天10月31日)发布数据显示,截至10月29日,该国本轮埃博拉疫情累计死亡病例超5000例,达5026例,累计确诊病例10351例,死亡率48.6%。CCTV国际时讯)2026-11-23
改革开放四十余年,大批民营家族企业到了集中“交棒”的时刻。但外部经济周期叠加行业内部转型,“二代”不一定接得动,还有相当一部分“不愿接班”。有学者研究表明,“只有一小部分人愿意接班,更小一部分人能够顺2026-11-23
“这些学者的意见,在学术上没有任何指标意义”:高峰枫谈“西方伪史论”
当地时间2024年4月19日,奥运圣火在希腊雅典的帕特农神庙前被点燃。 视觉中国/图)在南方周末记者采访的诸多学者中,高峰枫是唯一愿意实名就“西方伪史论”发表意见的人。高峰枫系北京大学外国语学院教授,2026-11-23
作为留学生,前往英国留学不仅意味着学术挑战和人生经验的渊博,还需要适应全新的文化和生活环境。为了确保在国外的生活更加顺畅和安全,知道英国的安全常识是十分必要的。一、交通安全英国的交通系统对于大多数留学2026-11-23
10月30日,香港证监会主席黄天祐出席香港证券业协会47周年金融创新论坛,并发表主题演说,指出金融业真正需要的,不只是“人工智能”Artificial Intelligence,而是Accountab2026-11-23
中新网8月24日电 据北京足协消息,近日,随着亦庄亦花园足球场赛区与郑常庄足球公园赛区结尾最后一轮鏖战,第43届北京晚报百队杯足球赛竞技组的比赛宣告全面完赛。先农坛体育场赛区 图片来源:北京足协8月22026-11-23

最新评论