「高效推理」共找到 2502 篇相关文章
Mini-sglang-01：从Client到Scheduler的消息流转之旅
文章围绕轻量化大模型推理系统mini - sglang，详细介绍消息从客户端经APIServer、Tokenizer到Scheduler的流转过程，分析核心组件功能、消息体系、正反向链路及优化策略，还预告后续分析调度和模型实现逻辑。
Meta&CMU：Token级LLM协同路由新范式
Meta AI、CMU等联合推出FusionRoute，是让多个大模型在token级协作的新范式。它能在每个token位置精准选专家，自带“急救包”。经实验验证其高效，也指出了待研究的方向。
港大开源视频版RAG，像聊天一样看完百小时纪录片。
港大HKUDS团队开源超长视频理解框架VideoRAG，突破传统模型时长限制，支持对数百小时视频精准检索和问答。还有桌面应用Vimo，使用简单高效。介绍了其切片索引、混合检索、生成回答的实现逻辑。
NBA球星，成为英伟达副总裁
本文用一张「组织透视镜」，带你看清英伟达36人的角色分工、黄仁勋的管理逻辑，以及它对AI时代公司的启发。黄仁勋以扁平化直管36位高管，减少层级，让信息流动，使公司保持创业般的冲劲。
对话微分智飞高飞：看具身智能如何引发飞行认知革命 | GAIR 2025
雷峰网第八届GAIR大会邀请微分智飞高飞，探讨具身智能在飞行机器人领域应用。高飞指出其与传统无人机本质区别，介绍应用场景、分布式集群技术，还谈世界模型价值、挑战及创业契机，认为具身智能是历史拐点。
论文自动变漫画PPT！Nano Banana同款用秘塔免费生成，还有一对一语音讲解
Nano Banana 2的知识变漫画玩法火出圈，国产秘塔AI搜索对标其核心体验，上线同款漫画式课件生成玩法，提供20多种风格，还能语音讲解，发布即全员免费开放，可将论文、报告等变PPT。
马斯克将用最强Grok 5，挑战LOL最强战队T1！
马斯克让Grok 5戴「纯视觉感知」与「拟人延迟」镣铐挑战LOL传奇战队T1。这是终极图灵测试，AI像人一样感知与推理。对决为特斯拉Optimus练兵，若AI看懂团战，就能理解现实世界。
5小时通关《原神》主线！Lumine：AI玩家正式登场
Lumine能像人类一样理解游戏画面、推理并操作，以接近人类效率5小时通关《原神》蒙德主线，还能零训练玩《鸣潮》等。它是开放式研发方案，靠少量数据和显卡让模型成强大智能体。
OpenAI推出GPT-5.1小小小小更新！！！
OpenAI推出GPT-5.1，本周向用户陆续推送，付费用户先行。它有两大核心模型，在遵循指令、推理回复及聊天体验上更佳。还有AMA问答活动披露更多细节，此外官方让自定义ChatGPT风格更易。
全球第二、国内第一！钉钉发布DeepResearch多智能体框架，已在真实企业部署
在数字经济浪潮中，企业对高效信息获取与决策支持需求迫切，但现有研究系统存在不足。阿里巴巴钉钉团队提出Dingtalk - DeepResearch多智能体框架，在评测中成绩优异，已在真实企业场景部署。