「推理优化技术」共找到 5270 篇相关文章
英伟达再破世界纪录，每秒1000 token！刚刚，全球最快Llama 4诞生
英伟达用Blackwell创下AI推理新纪录，单节点8颗GPU实现Llama 4 Maverick模型每秒单用户生成1000个token。这得益于技术组合拳，如用TensorRT - LLM优化、应用FP8格式等，满足了低延迟需求。
社区供稿丨如何抑制大模型的“过度反思”：Yuan3.0 Flash 中的强化学习范式
大模型在企业落地时存在“过度反思”问题，浪费算力。YuanLab.ai团队在Yuan3.0 Flash模型中提出RIRM与RAPO，前者奖励“思考过程”，后者优化训练框架，实现推理效率提升，适用于企业场景。
字节跳动开源文档解析大模型Dolphin，告别繁琐的文档处理，上线狂揽1k星，真是绝了！
字节跳动开源文档解析大模型Dolphin，采用两阶段分析 - 解析范式，有异构锚点提示等功能，适用多领域。技术架构基于视觉 - 编码器 - 解码器，训练集超3000万个样本，安装推理简单，比同类更具竞争力。
字节真的要干生态了？Coze竟然开源了
字节开源 Coze Studio 和 Coze Loop，此时 Dify 等已在 Agent 基础设施赛道站稳。Coze Studio 提供 AI Agent 开发环境，Coze Loop 负责优化平台，技术栈扎实。开源版功能有删减，字节野心是抢占生态范式。
Qwen又立功，全球最快开源模型诞生，超2000 tokens/秒！
全球最快开源大模型K2 Think诞生，速度超2000 tokens/秒，由阿联酋机构与公司合作推出，基于Qwen 2.5 - 32B打造。实测速度快且答案准确，主要为数学推理开发，团队已发布技术报告。
龙虾让位！硅谷顶流AI「爱马仕」一夜闯进微信，冲上全球第一
硅谷新宠Hermes Agent爆火，GitHub揽6.6万星，原生接入微信引开发者关注。其署名的首篇‘顶会级’论文提出Autoreason推理方法，指出传统‘自我优化’弊端，展示出小模型逆袭等优势。
60秒极限挑战！中国GPU独角兽杀出重围，斩获图形顶会大奖
2025年12月，SIGGRAPH Asia 2025在香港开幕，摩尔线程在3DGS重建挑战赛中凭自研技术LiteGS斩获银奖。该团队还开源3DGS基础库LiteGS，实现全链路协同优化，提升训练效率与重建质量。
WaveSpeedAI 成泽毅：AI Infra 本来就是一门能挣钱的生意
WaveSpeedAI成泽毅本在大厂做Infra，后创业。他先在社区验证技术价值，创业首日就定全球化策略。WaveSpeedAI团队小而灵活，用利他思维合作，在视频生成领域降成本，验证了推理基建有市场。
Artificial Analysis 发布 2025 年 AI 现状 Q3 季报
Artificial Analysis发布2025年Q3 AI现状报告，揭示五大关键趋势，如推理模型占智能榜单前十、智能体能力突破、开源模型发布创新高、图像视频技术主流化、原生语音模型达生产级，还将举办简报会。
LeCun预言成真！790年长视频，炼出最强开源「世界模型」
2025年‘世界模型’成AI巨头战场，谷歌、李飞飞团队等纷纷布局。上周北京智源研究院发布Emu3.5，340亿参数，基于790年长视频数据训练，其架构优越，推理快，能力强，还公开技术报告邀全球探索。