「推理效率」共找到 3033 篇相关文章
Mini-sglang-01：从Client到Scheduler的消息流转之旅
文章围绕轻量化大模型推理系统mini - sglang，详细介绍消息从客户端经APIServer、Tokenizer到Scheduler的流转过程，分析核心组件功能、消息体系、正反向链路及优化策略，还预告后续分析调度和模型实现逻辑。
效果、性能双突破，快手OneSug端到端生成式框架入选AAAI 2026
查询推荐是电商搜索关键功能，传统方法有局限。快手提出OneSug端到端生成式框架，统一多阶段，提升效果与效率，成果入选AAAI 2026，已在快手电商全量推广，显著提升多项指标。
The Batch: 891 | 用于科学发现的人工智能
Adji Bousso Dieng展望2026年，希望AI从‘提升效率的工具’变为‘推动科学发现的催化剂’。当前深度学习主导范式是‘插值’，难以应对数据分布‘尾部’，应转向能驾驭分布尾部的技术，把多样性作为核心目标。
大模型狂叠 buff、Agent乱战，2025大洗牌预警：96%中国机器人公司恐活不过明年，哪个行业真正被AI改造了？
InfoQ编辑部发布《2025年度盘点与趋势洞察》，探讨大模型、Agent等领域变化，分析行业被AI改造情况。指出2025年格局重塑，竞争焦点转变，国内AI有进展但与硅谷有差距，还介绍了大模型、Agent、AI Native等发展趋势。
2025 年最全面的 LLM 架构技术解析【长文】
Sebastian Raschka更新「大型LLM架构对比」长文，解析2025年LLM架构发展。介绍了如DeepSeek V3、OLMo 2、Gemma 3等模型架构特点，像DeepSeek V3用MLA和MoE提升效率，还探讨线性注意力复兴等趋势。
对话微分智飞高飞：看具身智能如何引发飞行认知革命 | GAIR 2025
雷峰网第八届GAIR大会邀请微分智飞高飞，探讨具身智能在飞行机器人领域应用。高飞指出其与传统无人机本质区别，介绍应用场景、分布式集群技术，还谈世界模型价值、挑战及创业契机，认为具身智能是历史拐点。
Jina-VLM：可在笔记本上跑的多语言视觉小模型
Jina AI 发布 2.4B 参数量的视觉语言模型 Jina-VLM，在多语言视觉问答任务达 SOTA。它引入注意力池化，连接视觉与语言基座，支持 29 种语言，能高效处理问答等任务，对硬件需求低。
马斯克将用最强Grok 5，挑战LOL最强战队T1！
马斯克让Grok 5戴「纯视觉感知」与「拟人延迟」镣铐挑战LOL传奇战队T1。这是终极图灵测试，AI像人一样感知与推理。对决为特斯拉Optimus练兵，若AI看懂团战，就能理解现实世界。
OpenAI推出GPT-5.1小小小小更新！！！
OpenAI推出GPT-5.1，本周向用户陆续推送，付费用户先行。它有两大核心模型，在遵循指令、推理回复及聊天体验上更佳。还有AMA问答活动披露更多细节，此外官方让自定义ChatGPT风格更易。
自回归科学基座模型 BigBang-Proton，提出实现 AGI 的新路线
超对称公司发布自回归科学基座模型 BigBang - Proton，挑战主流 AGI 技术路线。它实现多学科问题与 LLM 统一预训练和推理，有三项创新，在多专业任务表现出色，还提出宇宙尺度压缩构想。