「调度机制」共找到 1008 篇相关文章
英伟达护城河又宽了!低调收购开源算力调度王牌工具,全球过半顶级超算在用,Thinking Machines也离不开它
英伟达低调收购SchedMD,其为Slurm系统核心开发商,该系统被全球超半数TOP500超级计算机等使用。收购整合成本低、战略价值高,英伟达承诺保持Slurm开源,但相关项目开发受关注。此外,英伟达还推出Nemotron 3系列开源模型。
告别单Agent,AI Agent进入团战时代!
上周CAMEL - AI开源Eigent,号称“全球首个桌面端多智能体生产力团队”,后脚Manus上线功能相似的“Wide Research”。本文分享Eigent内核,介绍其特色、与Manus对比,还深挖技术架构、MCP及容错机制。
图解Vllm V1系列6:KVCacheManager与PrefixCaching
文章聚焦vllm v1,阐述调度器取请求时判断设备有无充足空间做推理的问题,涉及KVCacheManager与Prefix Caching。前者管理请求和块,后者通过找最长一致前缀节省显存,还介绍块分配释放策略与流程。
Claude推出多智能体代码审查系统:Anthropic内部同款,接管PR深度抓Bug
Anthropic为Claude Code引入代码审查系统,复刻内部审查机制,调度多智能体揪深层Bug。该功能面向团队和企业版用户预览,审查更彻底,虽成本高但有效提升审查质量,还能自定义规则、管控成本。
Claude Code完整技术栈都被扒出来了,Multi-Agent架构~
analysis_claude_code项目对Claude Code v1.0.33逆向工程分析,含混淆代码技术分析等。发现实时Steering机制、多Agent架构等,为AI agent系统设计实现提供技术参考,还介绍系统架构创新点。
全新 AI 消息模型:Apache RocketMQ 如何让 AI 应用拥抱事件驱动架构?
AIGC浪潮下,大语言模型重塑应用开发范式,开发者构建AI应用面临诸多挑战,需可靠高效的异步通信机制。Apache RocketMQ在AI时代演进,有轻量化通信与智能化资源调度两大创新,还介绍了多场景实践。
OpenAI这招太狠!AI从「躲猫猫」到「自爆黑料」,主打一个坦白
随着AI进入高风险场景,透明、安全变得重要。OpenAI提出「忏悔机制」,让模型回答后产出自我坦白报告,不影响主回答评分,只考察诚实,能提升不良行为可见性,目前仍处概念验证阶段。
OpenAI偷装Anthropic Skills实锤,ChatGPT、Codex已植入!开发者实测11分钟造PDF:比MCP强!
近日开发者发现 OpenAI 悄悄支持了 Claude 构建的 Agent Skills 机制,内置 excel、word 和 pdf 等技能。其实现理念与 Anthropic 相似,且 Skills 支持功能已落地 ChatGPT 和 Codex。业内对 Skills 看法不一,但它为智能体发展带来新方向。
Claude爆火研究漏引华人团队成果,已挨打立正道歉
Anthropic新论文研究Claude“情绪机制”,漏引华人团队Chenxi Wang去年10月论文。经沟通,A社已道歉并更新博客引用。华人团队论文首篇系统研究LLMs情绪机制,解答核心问题,成果显著。
华为新架构砍了Transformer大动脉!任意模型推理能力原地飙升
即便Transformer是AI世界基石,但遇到复杂数学题或多步逻辑推理时表现不佳。问题出在Attention机制。华为诺亚方舟实验室推出Nexus高阶注意力机制架构,能提升模型推理能力,且参数零增。