「推理时代」共找到 3144 篇相关文章
SGLang原生支持昇腾，新模型一键拉起无需改代码
12月20日SGLang AI金融π对收官，聚焦大模型推理效率。昇腾成SGLang原生支持后端，助DeepSeek等模型免调参运行。SGLang给出推理系统工程解法，昇腾与SGLang深度共建，性能优且全面拥抱开源。
从OpenAI AI Phone到Gemini on Android：AI手机时代需要怎样的Agent Harness？
过去一年，AI与手机关系被重新定义，腾讯混元等机构研究PhoneHarness，关注AI在手机上行动及任务完成验证问题。它让手机Agent行动不止GUI，还有Bench检验执行结果，推进AI手机基础设施建设。
ACL 2026 | 赋予视频生成「视觉思维链」：VChain显式建模时空规划与状态演变
南洋理工大学团队在ACL 2026发表VChain框架，引入大模型视觉推理能力提升视频逻辑连贯性。它分三步实现，实验效果超现有方法，还展示视频推理与生成的潜在趋势，为多模态模型协作提供范例。
不改模型、不降质量，谷歌让Gemma 4快了3倍：本地跑大模型彻底变天
谷歌给Gemma 4家族更新Multi - Token Prediction推测解码架构，推理速度最高提升3倍且输出质量不变。介绍了LLM推理慢的原因、MTP解决办法、对开发者的利好、技术细节、使用方式等。
美团之后，京东也开始自研大模型了
京东发布JoyAI - LLM Flash模型，激活参数小、推理快。它采用混合专家架构等技术，在基础架构、数据加工、强化学习等方面表现出色，还通过多Token预测等技术加速推理，为商业场景落地扫清障碍。
斯坦福7B智能体全面超越GPT-4o，推理流登顶HF
传统智能体系统难兼顾稳定性和学习能力，斯坦福等团队提出AgentFlow框架，通过模块化和实时强化学习优化策略，使7B参数模型在多任务上超越GPT - 4o等大模型，为AI发展提供新思路。
从 Apple M5 到 DGX Spark ，Local AI 时代的到来还有多久？
近期，黄仁勋将桌面级AI超算DGX Spark交付给马斯克引发热议。同时，Apple Silicon等芯片下放端侧推理能力，本地运行时和端侧模型供给加速成熟。但本地算力等问题仍制约消费终端Local AI大众化落地。
只要9美元！LoRA+强化学习，DeepSeek 1.5B推理性能暴涨20%
南加州大学团队基于LoRA的强化学习训练1.5B推理模型，在AIME 24测试上性能提升超20%，成本仅9美元。开源Tina模型结合三大关键技术，与SOTA模型相比竞争力强，研究者还对其有效性提出假设。
三大头部互联网企业交锋，AI时代可观测边界出现了吗？
InfoQ《极客有约》X AICon 直播栏目邀阿里云张城等探讨AI时代可观测新边界。嘉宾们认为AI与可观测技术双向赋能，传统算法与大模型互补，未来有望实现半自治运维，还分享了数据治理等经验。
西工大张伟伟团队：大模型时代航空科技的蓝图畅想 | 航空学报CJA
随着国产开源大模型涌现，大语言模型走入生活，挑战传统航空教育，革新科研范式，与航空产业融合推动变革。西工大张伟伟团队探讨其在航空工程教育、科研、行业全链条的影响及挑战。