「Serving功能」共找到 1559 篇相关文章
Mini-sglang-01：从Client到Scheduler的消息流转之旅
文章围绕轻量化大模型推理系统mini - sglang，详细介绍消息从客户端经APIServer、Tokenizer到Scheduler的流转过程，分析核心组件功能、消息体系、正反向链路及优化策略，还预告后续分析调度和模型实现逻辑。
谷歌Chrome觉醒！Gemini 3全面接管，38亿用户一夜进入Agent时代
谷歌官宣所有桌面端Chrome浏览器接入Gemini 3，38亿用户的浏览器进化为全能AGI入口。此次更新改变人机交互方式，Chrome具备多种智能功能，如自动浏览、调用全家桶服务等，开启AI驱动的浏览时代。
2026 年的 Coding 时刻是 Excel
近期Claude Code推出的Excel功能惊艳，Altiemeter合伙人Freda Duan认为，Excel或成下一个快速爆发的高价值领域，像Coding一样，它有庞大用户基数、可延展场景及自助式采用特点，变革或扩散到办公体系。
效果、性能双突破，快手OneSug端到端生成式框架入选AAAI 2026
查询推荐是电商搜索关键功能，传统方法有局限。快手提出OneSug端到端生成式框架，统一多阶段，提升效果与效率，成果入选AAAI 2026，已在快手电商全量推广，显著提升多项指标。
仅用10天？Anthropic最新智能体Cowork的代码竟然都是Claude写的
Anthropic发布智能体工具Cowork，仅耗时一周半，其代码由Claude Code所写。它是Claude Code简化版，向特定用户开放，有多种功能。有用户称效率提升巨大，也引发创业圈震动，部分类似产品开源。
独家对话前华为天才少年李元庆：首款规模化具身智能产品中国造！多机异构是未来方向
前华为天才少年李元庆加入乐享科技，负责创新业务与技术攻关。他指出世界首个体量化具身智能产品可能在中国出现，多机异构是未来方向，还谈具身智能发展现状、难题及应对策略，分享未来规划与建议。
摩尔线程放大招？新一代 GPU 架构即将揭晓 | Q推荐
2025年12月19 - 20日，摩尔线程首届MUSA开发者大会将在北京举办。大会聚焦全功能GPU，主论坛将揭晓新一代GPU架构，还有20+技术专场及1000㎡科技嘉年华，诚邀全球相关人士共筑国产智能计算生态。
刚上市的摩尔线程，即将揭晓新一代GPU架构
2025年12月19 - 20日，摩尔线程首届MUSA开发者大会将在北京举行。大会聚焦国产全功能GPU，主论坛将揭晓新一代GPU架构，还有超20场技术分论坛及1000㎡科技嘉年华，诚邀各方共筑智能计算生态。
10人创业团干翻行业“潜规则”！全员必须会AI、让跑大模型全程“裸奔”，谷歌老兵不烧钱创业
谷歌老兵Bryan Zhou投身AI创业，组建AnyInt团队。该平台定位AI Infra中间件，一个API对接所有模型，提倡“去中心化”。团队一开始就奔着付费用户，还做了极致性能优化，吸引众多开发者。
真情实感体验了阿里「千问APP」后，为什么说它是「中国的ChatGPT」？
近日阿里推出面向全球的千问APP。从产品定位、模型能力、效果来看，它接近ChatGPT，是“中国的ChatGPT”。它打通Qwen模型和应用，界面极简，功能多，体验佳，有望让大家重新认识阿里大模型应用。