全链路服务」共找到 2418 篇相关文章

推荐文章7

Mini-sglang-01:从Client到Scheduler的消息流转之旅

文章围绕轻量化大模型推理系统mini - sglang,详细介绍消息从客户端经APIServer、Tokenizer到Scheduler的流转过程,分析核心组件功能、消息体系、正反向链路及优化策略,还预告后续分析调度和模型实现逻辑。

GiantPandaLLM
推荐文章7

先说个暴论:不懂代码的人,才最喜欢 Vibe Coding。

文章指出不懂代码的人爱Vibe Coding,还介绍AI Coding赛道跨行、跨文件补方向。分析基于AST的上下文构造、提升速度的方法,提及AI IDE采纳率问题,认为实际项目中NES可控度更高。

探索AGI
新闻资讯8

图灵奖得主首度入局中国物理AI公司:曹操出行凭什么?|甲子光年

Robotaxi行业竞争重点转向安可信能力建设。6月29日,图灵奖得主约瑟夫·希发基思出任曹操出行AI创新中心首席科学顾问,其理论可补自动驾驶可信论证体系,助曹操出行搭建链路可信AI底层安框架。

甲子光年
新闻资讯7

太初元碁乔梁:AI算法已经跑到单芯片极限|MEET2026

在量子位MEET2026智能未来大会上,太初元碁乔梁表示,当下AI算力需求指数级增长,超智融合成行业共识。单颗芯片性能成瓶颈,太初元碁设计PC link实现芯片互联,还分享了HPC+AI在多领域的落地实践。

量子位
新闻资讯8

琶洲模方亮剑:第四届琶洲算法大赛大模型前沿技术分论坛暨琶洲模方孵化项目展示圆满举办 | 甲子光年

9月23日,「第四届琶洲算法大赛大模型前沿技术分论坛暨琶洲模方孵化项目展示」举办。活动汇聚各界精英,展示琶洲AI产业化成果。清智·琶洲模方首批孵化成果亮相,还有主题演讲、签约仪式等,最后AI问辩将气氛推向高潮。

甲子光年
新闻资讯8

OpenAI放大招!核心API支持MCP,一夜改变智能体开发

今天凌晨,OpenAI资收购io消息吸睛,还悄悄宣布核心API——Responses API支持MCP服务。这简化智能体开发,还能集中管理工具、保障安。此外,Responses API的图像生成等工具也有更新,并引入新功能。

AIGC开放社区
产品应用8

为什么顶尖投行都选择了 Rogo 这个金融 Agent?

球投行业务依赖大量初级分析师做重复性劳动,金融工作对 AI 有零容错、数据私有、工作流复杂的三重门槛。Rogo 由普林斯顿校友创立,嵌入 AI 能力服务超 50 家顶级机构,已获三轮超 1.65 亿美元融资。

海外独角兽
推荐文章8

NVIDIA技术沙龙 《大规模EP优化:PD分离MoE并行方式》课程笔记

本文是NVIDIA技术沙龙课程笔记,介绍大规模EP优化的PD分离MoE并行方式。涵盖PD分离、大规模专家并行等五项关键技术创新,还对比多模型架构,展示推理服务架构性能特点与优化策略,以及各技术工作流程和效果。

GiantPandaLLM
算法论文8

Agent可以自己进化了?!

论文《Automated Design of Agentic Systems》提出让Agent扮演设计师,“元代理”能自动生成新代理设计方案。用编程语言作设计空间,实现“设计自由”。实战中,AI设计的Agent领域超越人类,还具备知识迁移能力,未来或有自主进化的AI生态。

深度学习自然语言处理
推荐文章8

Agent开始“自我进化”:会出题、会反思,还会自己长出新技能

文章围绕自进化Agent展开,介绍其概念、受重视原因及三大技术路线,涵盖各路线代表工作的特点、评估及对比,指出研究空白如总结者训练等,最后还介绍了基于Agentic AI的链路数据助手Dola。

腾讯技术工程