「高效转发」共找到 596 篇相关文章
Kimi 大模型训推混部的稳定性与资源优化实战
月之暗面系统工程师黄维啸在 QCon 大会分享 Kimi 大模型训推混部实践。介绍了训推集群挑战，如故障多、资源利用低等，还阐述了全链路稳定性提升、资源高效利用及强化学习混合部署等方案。
小红书团队开源dots.ocr：文档解析新王者，性能比肩Gemini！
文档解析领域处理多语言复杂文档需高效能力，传统OCR工具存在不足。小红书HiLab开源多语言文档解析模型dots.ocr，基于1.7B参数视觉语言模型，性能达SOTA，单页PDF处理快，公式识别媲美大模型。
【博客转载】CUDA Cooperative Groups
文章介绍CUDA cooperative groups，它让开发者创建和管理能同步通信的线程组，为GPU并行算法编程提供更灵活高效方式。文中讨论并行归约算法及用cooperative groups的实现，还对比不同归约求和方法及性能。
程序员的提示工程实战手册
文章围绕程序员如何利用提示工程让AI编程助手成为可靠开发伙伴展开。介绍给AI代码助手的提示词技巧、高效代码提示原则，还阐述调试、重构、实现新功能的提示模式，指出常见反模式及应对方法。
学习 MCP 最好的时机是 7 个月前，其次是现在
文章介绍 MCP（Model Context Protocol），它是实现 LLM 与外部能力高效互联的协议，像 USB - C 接口。其采用客户端 - 服务器架构，可让 LLM 突破能力边界。与 Function Calling 相比，MCP 成本低，能让业务团队参与构建智能体。
智能体编程“小钢炮”：Qwen3.6-35B-A3B开源！
Qwen3.6-35B-A3B开源，是稀疏MoE模型，总参350亿、激活参数30亿，轻量高效，在智能体编程等方面表现卓越，超越前代，可与稠密模型媲美，支持多模态，已在Qwen Studio上线并发布开源权重。
AI 原生软件工程的可观测性与可控制性
文章指出 AI 成研发主力军，改变软件生产方式，传统研发管理办法需升级。当前人和 AI 协作有诸多问题，介绍了研发三阶段，阐述可观测性与可控制性概念、关键指标，以及实现可控制性的要素，强调二者结合构建高效研发体系。
静态稀疏已死：Flux Attention 开启长文本 LLM 自适应推理新时代
文章指出长上下文LLM高效推理面临性能与效率难题，先介绍Elastic Attention打破静态稀疏桎梏，后重点阐述全新的Flux Attention，它将动态稀疏注意力范式升级为层级别路由，解决了算法与硬件的矛盾，在多方面实现突破。
Anthropic万字Skills教程，把Agent工程的核心武功秘籍说明白了
Anthropic官方发布33页Skills构建指南，详细介绍构建高效Skill的方法，涵盖基础概念、规划设计、测试迭代、分发共享等内容。还提及openai用codex agent做项目的经验，指出人类审查成瓶颈，引出渐进式披露的核心秘籍。
大事不好！机器人学会预测未来了
蚂蚁灵波连续四天开源，此次推出全球首个用于通用机器人控制的因果视频 - 动作世界模型LingBot - VA。它能脑补未来，有记忆不丢失、高效泛化等亮点，架构设计独特，实验效果出色，推动通用机器人走向视频时代。