位宽量化」共找到 502 篇相关文章

新闻资讯8

这些关于研发提效的深度实践,值得每一开发者关注 | AICon

6月27 - 28日AICon北京站上,一线大厂技术大牛将分享“AI赋能研发提效”经验,涉及AI编程范式革新、代码智能化落地、研发流程优化等多方面,呈现技术演进与落地路径。

InfoQ
开源动态8

浙大开源PhyEdit:单图编辑+精准3D物体操作 | ACM MM'26

浙江大学ReLER团队开源的PhyEdit,用3D foundation model明确目标几何,让DiT图像编辑器负责最终渲染。单张图片里物体能移动并形成连续状态,在多项指标表现出色,还具备多种能力,已被ACM MM 2026接收。

新智元
开源动态7

AMD跑GLM 5.2,成本只要英伟达一半

推理优化公司Wafer公布数据,用AMD的MI355X芯片跑GLM 5.2,单节点吞吐达2626 tok/s,单流吞吐213 tok/s,成本不到英伟达B200的一半。该公司详述部署过程,还提及AMD软件生态的变化及英伟达面临的挑战。

量子位
产品应用7

Anthropic 突发 Sonnet 5,但大家更期待 Fable 5 和 Mythos 5 明天解禁

昨夜凌晨,Anthropic 突然推出 Claude Sonnet 5,自封“性价比之王”。它重点提升计划制定等能力,价格更低,安全性能提升,但网络安全能力弱于 Opus 4.8 和 Mythos 5。不过用户反馈平淡,Anthropic 面临高端模型受阻和访问控制争议等问题。

InfoQ
新闻资讯7

一个中大型组织到底需要怎样的AI办公,这场闭门会说清楚了

今年初麻省理工报告指出企业AI投入大但多数试点难量化回报。6月9日金山办公举办闭门会,探讨企业级AI问题,指出其要过数据、知识、安全三关,还给出选场景、重数据等判断。

AI寒武纪
新闻资讯8

罗振宇、张鹏、王立行等齐聚一堂,AIFUT大会Day1上午场的全面总结来了。

AIFUT大会首日上午,多嘉宾分享观点。王磊谈亦庄如何拥抱AI;卡兹克称身份被重新定义,好奇心不可被定义;罗振宇认为人最后价值是告诉AI要什么;还有Tim、张鹏、谷大白话、王力行等分享见解。

数字生命卡兹克
算法论文8

谷歌的DeepSeek时刻:LLM推理加速被干到了8倍

谷歌TurboQuant论文介绍量化算法,能为大语言模型和向量搜索引擎大规模压缩。可将大语言模型KV缓存内存减至少6倍、加速达8倍且精度零损失,还介绍其工作原理及实验结果。

PaperAgent
产品应用7

Rokid火得太晚了

消费电子市场中AI眼镜迎曙光,乐奇Rokid成AI+AR品类全球销冠。它通过双目衍射光波导和双芯片架构解决轻量化与续航难题,还以开放生态脱颖而出,其判断未来眼镜将成交互主体。

远川科技评论
推荐文章7

Mini-sglang-01:从Client到Scheduler的消息流转之旅

文章围绕轻量化大模型推理系统mini - sglang,详细介绍消息从客户端经APIServer、Tokenizer到Scheduler的流转过程,分析核心组件功能、消息体系、正反向链路及优化策略,还预告后续分析调度和模型实现逻辑。

GiantPandaLLM
新闻资讯8

大模型的进化方向:Words to Worlds | 对话商汤林达华

量子对话商汤林达华,探讨大模型发展。商汤的SenseNova - SI超越李飞飞团队模型,林达华认为单纯依赖参数规模的AI范式遇瓶颈,商汤推出NEO架构革新,还在落地应用优化,为年轻人指明新赛道。

量子位