「运行成本」共找到 2017 篇相关文章
中学生就能看懂：从零开始理解LLM内部原理【九】｜ 层归一化：神经网络的稳定器
本文是系列文章第九篇，介绍了神经网络中的层归一化。先回顾标准差、标准分概念，指出其可使差异可控稳定。接着说明层归一化将原思想用在神经网络，还加入可学习参数，最后总结其作用与应用位置。
还得是华为！Pangu Ultra MoE架构：不用GPU，你也可以这样训练准万亿MoE大模型
华为盘古团队发布Pangu Ultra MoE模型架构与训练方法的中文技术报告。该模型全流程在昇腾NPU上训练，团队在架构和训练方法创新，实现准万亿MoE模型训练，还在多方面优化提升性能。
Multi-Agent 的灵活编排之路
文章从Copilot 3.0架构规划模块出发，结合DeepSeek R1强化学习训练实践，探讨多智能体架构下大模型编排智能体解决问题。分析Copilot 2.0局限并介绍3.0升级，指出难点，展示效果对比及解决方案。
博士宿舍激情脑暴，革新了Scaling Law？Qwen和浙大联手推出新定律，直接干掉95.5%推理内存！
近日，阿里与浙大合作提出并行计算缩放定律 ParScale，可在不增参数下提升大模型能力，推理效率更高。它通过引入并行流实现，在数学、编程等任务表现佳，适合边缘设备，代码已开源。
Qwen突破：用「并行计算」代替「堆参数」，新方法内存降22倍、延迟降6倍
LLM进化依赖「堆参数」，存在训练成本高、推理慢等问题。论文提出ParScale，用「并行计算」代替「堆参数」，让模型「分头思考」，推理效率提升22倍，旧模型也能改造，落地价值大。
终于用上啦，3.9 万 Star archify，程序员福音！！！！
架构图常与代码脱节，约3.9万Star的archify让Agent先把代码库或系统描述写成带类型的JSON，经布局、检查后交付可交互系统地图，它先结构化、验证再交付，适用于特定场景。
长程 Agent 越跑越乱？ContextPilot 用细粒度 RL 教会模型主动管理上下文
长程 Agent 推理时，传统方法使上下文臃肿、推理成本高。清华、腾讯等团队提出 ContextPilot 框架，扩展管理工具集、采用新采样和信用分配方法。实验显示其用短上下文获高分，降低推理开销。
The Batch: 978 | DeepSeek-V4-Pro 更新了
DeepSeek发布旗舰模型DeepSeek-V4-Pro-0813正式版，性能提升，还发布开源agent harness开发者预览版并提价。模型在多指标表现佳，编码能力改进明显，公司公开基准测试框架意义大。
刚刚，Claude 5.1 发布！全球最强模型来了
Anthropic推出Claude Fable 5.1和Claude Mythos 5.1。Fable 5.1面向普通用户等，Mythos 5.1面向高风险领域伙伴。Fable 5.1性能优、价格低，在多测试中表现提升，还能用于科研，且安全防护机制升级。
鹿明发布NexCore：当机器人技能成为一种基础设施
8月19日鹿明机器人发布具身智能进化引擎Lumos NexCore，试图在数据、模型等与机器人间建立生产与运行链路，让机器人能力成可复用‘技能资产’，解决具身智能技能生产效率问题。