「外推方案YaRN - V」共找到 1405 篇相关文章
破局大模型推理困局！华为张君详解昇腾“融合算力”的优化秘籍
华为高级开发工程师张君在AICon大会演讲，围绕大模型推理优化，从模型、框架、算子层展开，结合案例阐述技术方案。分析大模型推理现状挑战，介绍加速技术，分享昇腾硬件算子优化实践及通算融合算子优化方法。
央企出手，让选大模型更容易了！中国移动发布MoMA聚合服务引擎
7月26日，中国移动在世界人工智能大会发布MoMA多模型与智能体聚合及服务引擎。它汇聚优质模型与智能体，为复杂任务提供方案，解决调度、意图理解、成本收益平衡等难题，还应用于灵犀智能体2.0。
Kafka 网络成本失控？如何彻底根除 AWS、GCP 上的 Kafka 网络隐性成本
云原生架构普及，企业将 Apache Kafka 部署到 AWS、GCP 等公有云，跨可用区数据传输成本成“隐形杀手”。AutoMQ 是新一代云原生 Kafka，100% 兼容 Kafka 协议，其“零成本复制”技术可降本，已在 GitHub 开源。
普林斯顿等高校提出AgentDistill：无需任何训练即可继承大Agent复杂能力，性能提升48%，成本降低90%
在AI领域，大型语言模型智能体计算需求大限制部署，传统蒸馏技术对智能体效果有限。AgentDistill提出解决方案，让学生智能体复用教师智能体的MCP工具包，无需训练继承复杂能力，小模型性能显著提升。
如何让 AI 成为你的编程搭档？一次真实重构告诉你答案
文章介绍编程工具Cursor，它是基于VS Code、深度集成AI的智能代码编辑器，有多种模式，能力强但有局限。作者分享用其完成重构需求的过程、经验，还提及使用中踩坑及应对方案，最后总结提效成果。
8B模型可以超过GPT-4o！并行KV Cache压缩支持的128K长度外推方法ParallelComp
大模型长文本推理存在瓶颈，作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新，能让 8B 模型性能达 GPT - 4o 的 91.17%，特定任务超 GPT - 4o。
纳米 AI 梁志辉：超级搜索智能体是 AI 时代的真正入口
纳米AI梁志辉认为超级搜索智能体是AI时代真正入口。纳米AI推出的「超级搜索智能体」结合多Agent协作等能力，是新解决方案。演讲分享了360对AI搜索、智能体搭建及浏览器的看法与探索。
MiniCPM 4.0极速狂飙，端侧模型的比赛，结束了！
面壁智能联合清华发布MiniCPM 4.0，极限场景220倍加速。它是首个原生稀疏模型，有InfLLM v2、CPM.cu等创新，基准测试碾压对手，适配全平台，还有科研、工具调用等功能，标志端侧长文本时代到来。
在Think中边搜索边调整的搜索增强Reasoning方法
LLM虽知识丰富，但无法掌握训练数据外的信息，传统检索增强生成方法有缺陷。AutoRefine提出“先筛选，再回答”理念，用强化学习训练，实验显示在多方面碾压传统方法，未来或改变知识密集型任务解决方式。
破除人形崇拜！京东用“狼族”军团重做物理AI
当行业狂热追捧人形机器人时，京东物流针对物流仓储非标环节自动化渗透率低的痛点，推出「狼族」异构机器人集群搭配超脑3.0智能中枢的全链路物理AI方案，已实现规模化落地，兼顾效率与经济性。