「推理数据」共找到 4233 篇相关文章
Mini-sglang-01：从Client到Scheduler的消息流转之旅
文章围绕轻量化大模型推理系统mini - sglang，详细介绍消息从客户端经APIServer、Tokenizer到Scheduler的流转过程，分析核心组件功能、消息体系、正反向链路及优化策略，还预告后续分析调度和模型实现逻辑。
不止于量化：最新综述用「时-空-构」三维视角解构KV Cache系统级优化
随着LLM向1M上下文演进，KV cache成推理服务效率核心瓶颈。墨尔本大学和华中科技大学研究者发布深度综述，用「时间 - 空间 - 结构」视角梳理KV cache优化方法，还归纳关键观察、提出开放挑战，并整理了资源库。
一个模型统一4D世界生成与重建，港科大One4D框架来了
港科大研究团队提出 One4D 框架，可统一 4D 生成与重建，构造同步输出多模态的视频扩散模型，支持多种任务形态。其有 DLC、UMC 等亮点，用合成与真实数据混合策略训练，实验表现佳。
笑死！xAI员工竟用Claude写代码？这回Anthropic反手拔了马斯克的网线
2026年1月8日消息，xAI联合创始人通知员工，Cursor中的Claude模型无法响应，是Anthropic针对对手的新政策。此前Anthropic已多次调整策略，封杀竞争对手，其目的包括保护数据资产等。xAI或加速自研，行业或开启军备竞赛。
独家对话前华为天才少年李元庆：首款规模化具身智能产品中国造！多机异构是未来方向
前华为天才少年李元庆加入乐享科技，负责创新业务与技术攻关。他指出世界首个体量化具身智能产品可能在中国出现，多机异构是未来方向，还谈具身智能发展现状、难题及应对策略，分享未来规划与建议。
除了写代码，Claude 还能……种菜
开发者Martin DeVido让Claude全权照顾番茄苗Sol，无人类备份与手动干预。Claude通过传感器获取数据，控制设备运行。期间经历系统崩溃等危机，36天后Sol枝繁叶茂，Martin不鼓励买代币，可去网站看直播。
8亿！OpenAI发布企业AI现状报告
OpenAI发布《2025年企业AI现状报告》，基于真实数据与调研公开企业级AI使用规模。ChatGPT周服务超8亿用户，企业端增长惊人，各行业渗透加速，员工也感受到实际价值，同时前沿与普通用户差距拉大。
以小博大！Nanbeige4-3B重磅开源：硬刚Qwen3，挑战小模型能力新高度
近年来大语言模型参数膨胀，成本升高，业界重注小语言模型。近日，Boss直聘南北阁大模型实验室发布仅30亿参数的Nanbeige4 - 3B，在多方面媲美甚至超越通义千问Qwen3系列模型，开源印证小模型潜力。
对话微分智飞高飞：看具身智能如何引发飞行认知革命 | GAIR 2025
雷峰网第八届GAIR大会邀请微分智飞高飞，探讨具身智能在飞行机器人领域应用。高飞指出其与传统无人机本质区别，介绍应用场景、分布式集群技术，还谈世界模型价值、挑战及创业契机，认为具身智能是历史拐点。
Jina-VLM：可在笔记本上跑的多语言视觉小模型
Jina AI 发布 2.4B 参数量的视觉语言模型 Jina-VLM，在多语言视觉问答任务达 SOTA。它引入注意力池化，连接视觉与语言基座，支持 29 种语言，能高效处理问答等任务，对硬件需求低。