搜索：推理框架开发

「推理框架开发」共找到 4701 篇相关文章

三金，又是中国队！全球机器人视触融合挑战赛揭榜

ManiSkill - ViTac 2025视触觉融合挑战赛揭榜，全球42支团队参赛，中国两家具身初创公司包揽三金。该赛事聚焦视触觉融合技术，为机器人行业搭建从实验室到现实应用的桥梁，推动相关算法和硬件进步。

过去，开发者让大模型用数据库查询数据需开发插件等，费时费力且难复用。StarRocks MCP Server 提供通用接口，让 LLM 标准化访问 StarRocks，执行 SQL 查询。MCP 规范模型与上下文交互，其核心组件分工明确。

本文聚焦vllm v1中管控模型分布式推理的核心Executor部分，介绍其4种类型及适用场景，以mp类型为例阐述Executor - Workers架构，还说明了大小数据在两者间的传输机制及原理。

本文是腾讯混元团队针对大模型强化学习规模化训练的研究，聚焦万卡级算力下Batch Size优化问题，拆分样本效率与系统效率的影响，给出可落地的调优框架，实测可缩短29%训练时间。

本文是InfoQ翻译的OpenAI技术分享，详细公开GPT-Live实现连续有状态低延迟语音交互的架构设计，分享了架构拆分、协议优化、上线测试等实践经验与设计权衡。

中科闻歌决策机Decitron被称为「全球首个通用决策大模型」，它将不同能力统一到开放世界决策框架，形成闭环。8月3日其技术报告发布，公开三项核心技术，还介绍了推演流程和实验验证情况。

PhiZero由中科院自动化所团队研发，探索让AI读懂真实世界运动、交互与变化的“物理语言”。它构建Reason - then - Render框架，经大量数据训练，在多基准测试中表现领先，为AI理解物理世界开辟新通道。

WAIC 2026热度高涨，InfoQ直播间追问‘AI正在重写什么’。与会嘉宾讨论AI产业新阶段变化，如从‘看能力’到‘算总账’，认为模型重要性方式已变，还探讨了AI原生产品定义、AI Infra影响及未来关注方向。

文章聚焦让VLA模型在机器人上高效运行难题。北大等团队提出Jetson - PI方案，从异步推理算法等三层面优化，在Jetson Orin上控制频率提升8.66倍，推动具身智能向工业应用跃迁。

Netflix分享Service Topology系统细节，它为数千微服务创建实时依赖关系图，合并三类数据源，近实时更新。开发动机源于工程支持请求常见问题，现有工具无统一视图。未来将加入部署和配置变更事件。