「推理系统优化」共找到 4366 篇相关文章
不自研、只收购，年入7亿美金，全球最赚钱的应用工厂是如何做成的？
Bending Spoons是欧洲非游戏类应用工厂，靠收购模式年入7亿美元。创始人Luca Ferrari称收购是买时间和优势，解锁被收购公司潜力。公司核心竞争力是内部系统，还回应了裁员争议，也谈及未来规划。
Shopify分享了他们做Agent的万字踩坑经验
Shopify分享构建生产级AI助手Sidekick的万字经验。构建中遇工具拓展难题，用JIT指令解决；评估是大挑战，建立严谨体系，虽有提升但效果仍有波动，模型还会钻空子，最后强调单Agent系统也强大。
具身智能大脑+首个SaaS开源框架，智源研究院刷新10项测评基准，加速群体智能新范式
智源研究院推出通用具身大脑RoboBrain 2.0与全球首个具身智能SaaS开源框架RoboOS 2.0并全部开源。前者突破主流AI模型瓶颈，后者实现大脑云端优化与小脑技能免适配注册，降低开发门槛。
AI工具的真相与幻象：从客服看AI应用的理性边界
文章以某科技公司AI产品部门负责人张文的经历为例，讲述AI客服系统失败、AI编程助手成功的情况，指出AI应用存在期望与场景不匹配问题，还探讨了AI落地转变及组织搭建难题与解决办法。
快手 AB 场景提速 145 倍，从 Spark 到 Apache Doris 的加速实践
快手 AB 指标生产场景从 Spark 切换到 Doris 提速 145 倍、资源消耗降 72%，刷新 Doris 单机群最大规模。本文介绍选择 Apache Doris 的原因，以及在存储、计算、调度、稳定性等方面的优化，对构建 AB 实验平台有参考价值。
阿里开源PromptEcho：用冻结多模态大模型为文生图训练提供高质量Reward
阿里团队提出PromptEcho方法，无需标注和训练reward模型，仅通过冻结多模态大模型（VLM）的一次前向推理获高质量reward。实验显示其在文生图和电商海报文字渲染任务效果佳，且已开源相关代码等。
Meta没做的，英伟达做了！全新架构吞吐量狂飙6倍，20万亿Token训练
英伟达发布全新架构9B模型NVIDIA Nemotron Nano 2，以Mamba - Transformer混合架构实现推理吞吐量最高提升6倍，对标Qwen3 - 8B并在多任务中表现持平或更优，还开源模型及大部分预训练数据。
腾讯混元开源 4 个小尺寸模型，主打 Agent 和长文
8月4日腾讯混元开源四款小尺寸模型，参数为0.5B、1.8B、4B、7B，消费级显卡可运行。模型推理快、性价比高，在多领域表现出色，亮点是Agent和长文能力，已在腾讯多业务应用。
DeepSeek-V3再发论文，梁文锋署名，低成本训练大模型的秘密揭开了
DeepSeek 发布围绕 DeepSeek-V3 的技术论文，从硬件架构和模型设计双重视角，探讨实现经济高效的大规模训练和推理的方法。介绍了 DeepSeek-V3 的创新设计，如 DeepSeekMoE 架构、MLA 架构等，还给出未来硬件架构设计建议。
消费者别急，苹果给AI手机『画的饼』，大概是这样
6月10日苹果全球开发者大会举办，iOS 26发布引关注。苹果AI能力滞后，其筹划的AI手机有端侧AI分布、AI辅助能力先行、更酷炫大统一UI等特点，此次系统升级对其未来布局关键，苹果盈利和销量已下滑。