「高效推理框架」共找到 3706 篇相关文章
100万亿Token看懵硅谷！全球一半算力写代码，另一半在「搞颜色」 ？
OpenRouter和a16z联合发布报告，基于100万亿Token实证数据揭秘2025年AI发展。开源模型流量占比达30%，推理模型成主流，编程和角色扮演是主要使用场景，亚洲付费使用量翻倍，中文成全球第二大交互语言。
TileLang vs Triton 详解：谁该握住控制面——编译器还是开发者？
文章对比 TileLang 与 Triton 两个框架，解释控制面设计、并发协议、编译管线的本质差异，以及这些差异如何影响性能上限、工程投入。明确 TileLang 追求榨干内核，性能上限高但对开发者要求高；Triton 追求快速落地，生态成熟。
吴恩达关注的Ling-1T背后，蚂蚁Ling 2.0技术报告解密万亿模型开源配方
AI导师吴恩达关注蚂蚁开源模型Ling-1T，其性能直逼闭源模型。蚂蚁集团通过《Ling 2.0 Technical Report》揭示技术配方，从架构、预训练、后训练对齐和基础设施四个层面构建推理模型，还分享失败教训，提供开源SOP。
用「进化+压力测试」自动生成的竞赛级编程题，各家大模型谁更hold住？
北京大学与通用人工智能研究院联合提出 UniCode 框架，构建进化式评测系统，能自动生成高质量算法题目与抗污染测试用例。通过对 19 个前沿大模型测试，展现高挑战性与强判别力，为代码能力评估开辟新路径。
挑战Claude4的8B Agent！NUS提出AgenTracer：面向多智能体系统的失败归因
随着大语言模型发展，多智能体系统潜力大但有系统脆弱性问题。NUS研究者在论文中提出AgenTracer框架，构建标注管线，设计AgenTracer - 8B模型，在失败归因任务上超大型闭源模型，还能助力系统自我提升。
不愧是中国机器人，乒乓打得太6了
清华姚班本科生苏智团队在论文中提出结合模型规划与强化学习的分层框架，让宇树G1机器人实现亚秒级反应下的稳定连续对打，在真实实验中击球和回球率高，还能连打106拍。
41个榜单SOTA！智谱最新开源GLM-4.5V实测：看图猜地址、视频秒变代码
智谱基于GLM - 4.5打造的开源多模态视觉推理模型GLM - 4.5V，在42个公开榜单中41项夺得SOTA。其功能丰富，玩法升级，还为企业与开发者提供高性价比方案，是100B参数级SOTA标杆。
央企牵头！这个AI开源社区要让大模型跑遍「中国芯」
6月30日百度文心大模型4.5系列开源并登陆魔乐社区，该社区发起‘模型推理适配协作计划’，想让大模型跑遍中国芯。其升级工具中心和协作空间，联动产业力量，解决模型在国产芯适配难题，推动生态发展。
奖励模型预训练新范式POLAR：突破强化学习短板，有望打通RL链路扩展“最后一环”
强化学习中奖励模型设计与训练是瓶颈，上海人工智能实验室提出奖励建模新范式POLAR。它摆脱传统“绝对偏好”限制，契合强化微调框架，通过对比学习训练，实验证明其性能和泛化性佳，有望打通RL链路扩展最后一环。
DeepSeek-R1超级外挂！“人类最后的考试”首次突破30分，上海交大等开源方案碾压OpenAI、谷歌
上海交大联合深势科技团队发布新研究，在“人类最后的考试”（HLE）上获32.1分创纪录。团队推出工具增强推理智能体X - Master、多智能体工作流系统X - Masters并开源，方案表现优于OpenAI、谷歌相关模型。