「推理成本」共找到 3269 篇相关文章
“Skills 不就是脚本套个壳吗？我十几年前就玩 AutoIt 了”
程序员常认为 Agent Skills 是脚本换壳，实则二者有本质差异。脚本按步执行，Skills 由 AI Agent 调度、用自然语言编排工作流。确定的事用代码，不确定的交给 Agent。Skills 降低成本、利于分享，进化快但有安全问题。
DeepSeek-OCR降本增效，10×暴力压缩还能读得清
Deepseek - OCR模型发布，通过光学压缩技术解决长文本处理的计算效率问题，能控制大模型token消耗成本。介绍了其架构设计、数据引擎及训练流程，还展示其用较少token超越现有模型的能力。
小说一键转有声剧！豆包语音团队提出「AI多人有声剧」方案，沉浸感拉满了
豆包语音团队发布「AI 多人有声剧」自动化方案，基于多角色 Seed - TTS - 2.0 模型，实现从小说文本到有声剧成品端到端 AI 制作，成本和周期大降，首批有声剧已在番茄小说 App 上线。
刚刚，大模型棋王诞生！40轮血战，OpenAI o3豪夺第一，人类大师地位不保？
国际象棋积分赛成果出炉，OpenAI o3以人类等效Elo 1685分夺冠，Grok 4和Gemini 2.5 Pro紧随其后。Kaggle发布国际象棋文本排行榜，评估模型战略推理等能力，还推出相关数据集，虽有局限但意义重大。
AI 的宿命数字
AI在1到50间随机选数时，常选27，还编造推理过程，会根据时间调整算法保证结果为27，也有选42等情况。这或源于人类文化偏见，AI是人类集体记忆镜子，难摆脱宿命。
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。
Cursor Origin 上线，GitHub 的老玩法还够用吗？
8月17日，GitHub服务异常，同日Cursor向付费计划开放Origin early beta。代码仓库接入更多Agent，现有设施适应人的节奏，而Agent工作节奏更快。Origin重写协作成本，与GitHub设计前提有差异，马斯克布局延伸到软件生产链。
拒绝传统 Router“瞎指挥”，多智能体如何实现智能任务分配？
企业级多智能体系统瓶颈常是负责分发任务的传统 Router 太“傻”，搞不定跨域、解不了冲突、跟不上变化。腾讯云开源 TCAR 智能路由模型，它先推理再选 Agent 集合，经多数据集评测表现出色，还提供完整开源范式。
英伟达、港大等发布创新KV缓存，实现扩散模型无训练加速
多数开源扩散语言模型推理效率不如自回归模型，英伟达、港大、麻省理工研究人员联合提出Fast - dLLM。它用近似KV缓存机制减少冗余计算，还提出基于置信度的平行解码策略，测试显示能加速且保持生成质量。
华为盘古首次露出，昇腾原生72B MoE架构，SuperCLUE千亿内模型并列国内第一
当前传统 MoE 有专家激活不均衡问题，华为盘古团队提出 MoGE 解决。基于此架构的盘古 Pro MoE 大模型在昇腾集群高效训练，推理性能强，在 SuperCLUE 榜单千亿内模型并列国内第一，赋能业务落地。