产品应用8
腾讯 AngelSlim 升级,多模态推理加速 1.9 倍
腾讯技术工程
AI 摘要
腾讯:大模型推理成本等成应用阻碍,升级的 AngelSlim 围绕 Eagle3 构建实现,支持多模态,推理加速最高 1.9 倍,有全模态训练等亮点,未来还会优化训练与拓展算法。
阅读原文 · 腾讯技术工程
腾讯AngelSlim重磅升级!面向全模态的大模型压缩算法工具包,推理速度飙升 1.8倍!
近年来,推理阶段的成本等因素制约大模型规模化应用。腾讯混元升级的 AngelSlim 围绕 Eagle3 投机采样训练范式构建系统化实现,支持多模态场景,最高可实现 1.9× 推理加速,还具备多亮点。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
开源动态8
阿里开源Qwen3.8-27B,性能直逼顶尖模型
阿里Qwen团队开源Qwen3.8-27B,上线2天登顶Hugging Face全球大模型趋势榜,下载破百万。其性能超Opus4.6,与顶尖模型相当,量化后普通电脑就能跑,原生多模态,编程、Agent、多模态跑分表现出色。
AIGC开放社区
新闻资讯8
林俊旸携新公司押注Agent赛道
前阿里Qwen负责人林俊旸创办Pragmatik Labs/语用科技,研究跨数字与物理世界的下一代agent。红杉中国、高榕创投领投,腾讯等跟投。其目标是用agent实现终极生产力,有独特技术底色与愿景。
PaperAgent
开源动态8
Qwen3.8-Max下周开源,能力全面提升
Qwen3.8-Max是Qwen家族迄今最强模型,2.4万亿参数,下周将开源权重。它在多项基准测试中表现出色,能连续自主工作数天,在编程、办公、科研、长周期任务、多模态等方面全面提升。
AIGC开放社区
开源动态8
codex-vision-proxy让DeepSeek开启看图技能
GitHub上的项目codex-vision-proxy让接进Codex的DeepSeek能看图,不用换模型或等官方,装本地代理即可。它还附带视觉工具包,在智能文档解析和OCR上潜力大,证明多模态能力可长在管道上。
CourseAI