「双层优化框架」共找到 2640 篇相关文章
回归C++: 在GGUF上构建高效的向量模型
Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型，还生成量化版本并上传。介绍使用方法、注意事项，经测试推荐IQ3_S或IQ3_M版配合定制工具。
斯坦福洗碗机器人新作！灵巧手跟人学采茶做早餐，CoRL 2025提名最佳论文
斯坦福等机构提出DexUMI框架，利用人手将操作技能迁移至灵巧手。该框架通过软硬件创新缩小人手与灵巧手具身差异，在两款灵巧手硬件平台验证，平均任务成功率达86%，数据采集效率提升3.2倍，被CoRL 2025提名最佳论文。
DeepSeek Harness背后的“心脏”：Cordis 到底是什么
文章介绍Cordis框架，它原服务第三方QQ机器人，现是DeepSeek Harness心脏。阐述其设计初衷、核心机制，如插件、上下文等概念，还提及在DSH中的应用，展示了插件槽位和生态，最后介绍相关论文和该框架的生态情况。
通过零开销逐层权重卸载技术将SGLang Diffusion wan2.2的推理速度加速60%
文章介绍在优化SGLang对Wan2.2视频生成模型支持时，发现双Transformer架构下第1步和第19步推理慢的问题。通过零开销逐层权重卸载技术，将整体推理速度提升60%，还突破显存墙，且该优化可扩展到其他模型。
FlashAttention 完全进化史：FA-4 发布之际的技术全景回顾
文章围绕FlashAttention展开，从Attention性能瓶颈引出问题，阐述其各版本演进。FA-1实现算法突破，避免O(N²)内存；FA-2适配架构，提升性能；FA-3深度协同，实现异步；FA-4探索更深异步和角色分工。还探讨跨芯片迁移及未来优化方向。
腾讯开源三大具身基座模型，首席科学家张正友详解“三层脑”如何破解机器人反应慢
WAIC 2026 期间，腾讯开源三款具身基座模型。首席科学家张正友称此前用 OpenClaW 调度机器人效果差，后设计 TairosAgent 框架。腾讯将具身智能拆成三层，配合具身智能体和框架构成完整矩阵，还解决语言信息不足等问题，并在工业和养老场景测试。
究竟会花落谁家？DeepSeek最新大模型瞄准了下一代国产AI芯片
近期，DeepSeek发布V3.1新模型，采用全新混合推理架构，在多任务表现上有提升。它采用UE8M0 FP8，或为国产推理芯片优化机制。国内多家厂商新一代AI芯片支持FP8，未来国产大模型或针对其专门优化。
Codex正在重塑传统推理框架开发流程
作者用Codex完善SGLang Diffusion的SKILLS流程，修复诸多bug。让其做benchmark脚本，发现不同rmsnorm性能差异。应用flashinfer rmsnorm遇问题，Codex找出原因并修复，还提升了模型性能，体现强大生产力。
OpenAI：我们正朝着什么方向优化 ChatGPT？
OpenAI 官网文章称，ChatGPT 发展方向是成‘对你有用’的工具，不追逐 DAU 或让用户沉迷。它介绍了有用的使用场景，还提及健康使用方面的改进及与专家合作提升响应能力等内容。
开源多模态大模型EarthMind，观测地球统一框架
地球观测数据复杂，现有多模态模型难适用。意大利、德国多所高校研究人员联合开源多模态大模型EarthMind，引入空间注意力提示模块，实现跨模态融合和多粒度理解，解决地球观测难题。