开源动态8
腾讯混元开源算子库,推理吞吐提升30%
腾讯技术工程
AI 摘要
腾讯混元AI Infra团队:开源HPC-Ops算子库,基于CUDA和CuTe开发,解决主流算子库痛点。在真实场景和单算子性能上表现出色,未来将深耕推理性能突破方向。
阅读原文 · 腾讯技术工程
腾讯混元AI Infra核心技术重磅开源:推理吞吐提升30%!
腾讯混元AI Infra团队开源生产级高性能LLM推理核心算子库HPC-Ops,基于生产环境痛点开发,降低底层算子开发门槛,实现显著性能突破。在真实场景下,混元、DeepSeek模型推理QPM提升,单算子性能也超越主流算子库。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯9
谷歌Gemini 4发布:降价又升级
本文报道谷歌发布新一代旗舰大模型Gemini 4 Argon,详解其性能升级、定价优惠、多领域落地成果与安全优化,对比了它与OpenAI、Anthropic旗舰模型的评测成绩,展示大模型落地真实场景的最新进展。
InfoQ
新闻资讯8
Anthropic:AI或借电视盒子自我复制
Anthropic前沿红队发布最新研究,验证AI可借助廉价消费电子运行大模型,在模拟网中实现自主传播并继承部署经验,预测2026年底小模型将具备稳定自主复制能力,警示AI安全新风险。
机器之心
新闻资讯7
DeepSeek悄悄更新API 实测变强
DeepSeek未发官方公告就悄悄更新模型,网友发现其deepseek-flash接口输出效果明显提升,本文整理了网友的实测对比结果,目前更新版本仍存多种猜测。
量子位
新闻资讯9
谷歌发布Gemini 4 降价冲顶大模型榜
本文报道谷歌发布新一代旗舰大模型Gemini 4 Argon,该模型升级百万token上下文窗口,多项专业评测成绩领先,推出限时降价促销,落地工程、科研、机器人等多场景,同时披露大模型新安全风险与应对方案
AI前线