搜索：存内概率计算

「存内概率计算」共找到 1089 篇相关文章

为MoE解绑：全新「专家即服务」推理架构发布，超细粒度扩展锐减37.5%成本

近年来大模型推理开销增长，MoE架构虽能避免计算量同比增，但带来扩展性差、容错性低、负载不均等问题。为此作者提出全新「专家即服务」推理架构EaaS，实验显示它能锐减37.5%成本。

过去几年，AI成云计算行业统一叙事，但厂商口号趋同，差异化消解。当下AI从“炫技”走向“应用”，华为云在全联接大会2025上提出新组合，回应行业成本、基建和应用难题，不过路径也面临挑战。

很多人质疑扩大计算规模训练模型的做法，因Scaling Law面临收益递减。但新研究发现，模型单步准确率的微小提升能使完成任务长度指数级增长，还探讨了长程执行能力的衡量及影响因素。

SimpleTIR可解决多轮工具调用中训练崩溃问题。作者指出崩溃原因是分布偏移、低概率token链式雪崩和梯度爆炸。它采用void turn过滤，掐断崩溃链路，训练稳定，还催生多样推理行为，且工程友好已开源。

甲骨文发布2026财年第一财季业绩，未交付合同总值暴增，云业务收入预计大幅增长。受此影响，股票涨超35%，创始人埃里森身家一度超马斯克成首富。其未交付大单或来自OpenAI 3000亿美元算力合同。

Thinking Machines Lab发长文《克服LLM推理中的不确定性》，指出大语言模型推理不确定性的真正元凶是缺乏批次不变性，还解释核函数计算中数字加法顺序问题，介绍使核具有批次不变性的方法并给出实验结果。

Windsurf近期出现性能降低等问题，社区抱怨不断，但官方却隐身不回应。此前公司经历变动，Devin集成到Windsurf后问题频出，如级联错误、积分消耗等，部分用户开始转向其他产品，其未来发展存不确定性。

蚂蚁百宝箱团队将在今年外滩大会正式上线 Tbox 超级智能体，其产品形态与部分平台相近，能让不同角色分工协作。实测显示它在多方面表现不错，但也存在细节不足，官网有诸多案例。

7月30日，云天励飞向港交所递交H股上市申请，迈向“A+H”新阶段。它是中国首家实现国产高算力AI推理芯片商业化的公司，坚持“全自研、国产化”，现进一步聚焦AI推理芯片，构建“1+N”业务架构。

文章介绍 PolarDB Supabase Edge Functions，它是为全栈应用打造的边缘计算方案。提供 CLI 和 Studio 两种开发方式，补全开源版缺失的管理后台，让企业能兼顾功能与控制力，还提及数据库原生多模态智能检索方案。