「RL 优化技术」共找到 4023 篇相关文章
多模型共享 GPU 内存，Berkeley 开源新工具
GPU内存利用率低是大模型部署痛点，伯克利Sky Computing Lab团队开源kvcached工具，通过虚拟化技术让多模型共享显存。它引入虚拟内存概念，按需分配，测试显示能提升效率，安装简单、兼容性好。
Claude Skills，4000字详解 Anthropic 的思考
Anthropic推出新技能Claude Skills，作者认为它会引导第三方工具形态。Skills结合笔记式形态、可执行工具与AI调度自优化，具备低门槛、灵活表达等优势，还实现了AI自我进化，是一种新范式。
“谈故障色变”到有章可循：美图 SRE 故障应急与复盘实践
在 InfoQ 举办的 QCon 全球软件开发大会上，美图高级运维经理石鹏分享美图 SRE 团队故障应急与复盘实践，探讨故障应急各环节，剖析故障本质与原因，还交流 AIOps、LLM Ops 等技术。
1.58bit不输FP16！微软推出全新模型蒸馏框架，作者全是华人
微软推出蒸馏框架BitNet Distillation，实现几乎无性能损失的模型量化。它含三阶段，经实验在多下游任务表现近全精度模型，降内存开销、提推理速度，作者全是微软研究院华人。
LangChain 不看好 OpenAI AgentKit：世界不需要再来一个 Workflow 构建器
OpenAI发布工具集AgentKit，含可视化画布Agent Builder。LangChain创始人Harrison Chase锐评，市场不需要这种可视化工作流构建器，因其不是真正的Agent构建器，且面临高低复杂度问题挤压。
告别微调！斯坦福提出Agentic上下文工程
当前微调大语言模型成本高、不灵活，‘上下文适应’方法有短板。斯坦福大学等提出ACE框架，将上下文变为动态‘战术手册’，解决现有问题。论文通过实验验证其在性能、成本和效率上优势，为大模型发展指明新方向。
更先进的AI，就应该发生在“今天” | 甲子光年
AI应用离消费者体验还有距离，行业分歧加剧。9月22日，联发科发布天玑9500芯片，把AI嵌入端侧设备，在高频场景优化体验，还在芯片设计、硬件创新上突破瓶颈，带动伙伴发展，推动AI普及。
企业级消息系统构建指南
文章介绍企业级消息系统构建，阐述概念、价值、典型场景，对比主流开源系统如 Kafka、Pulsar 等。通过腾讯、华为等企业实践展示选型与优化，还提及运维保障，指出未来消息系统在 AI 领域机遇与挑战。
The Batch: 882 | Qwen3-Next 提速
阿里巴巴对开源权重模型 Qwen3 全新升级，发布 Qwen3 - Next - 80B - A3B 的 Instruct 和 Thinking 版本权重。其融合新研究成果，推理能耗低、速度快，还优化架构和训练方法提升效率与稳定性。
做路由器Wi-Fi芯片为什么那么难？
TP - Link芯片部门全员解散引发关注。做路由器Wi - Fi芯片技术难，要同时研发CPU主控和Wi - Fi芯片，且比端侧Wi - Fi芯片要求高。市场方面，不同地区市场各有挑战，创业需谨慎。