「AI推理成本」共找到 11687 篇相关文章
宣战马斯克！OpenAI进军脑机接口，Altman圆8年前梦想
英国金融时报消息，OpenAI及其首席执行官Sam Altman将支持新脑机接口公司Merge Labs，与马斯克的Neuralink竞争。Merge Labs正融资，估值8.5亿美元，新资金主要由OpenAI风投提供。8年前Altman就提及人类与AI融合，如今他选择支持Merge Labs实现脑机接口梦想。
先进封装补完计划
2024年美国众议院点名批评美资对盛合晶微投资，后将先进封装列为投资禁区。盛合晶微由中芯国际和长电科技合资成立，攻克硅中介层难题。AI芯片变大使台积电产能紧张，盛合晶微为国产芯片提供新选择。
突发，OpenAI首颗「辣椒」芯片压倒英伟达！GPT-6干崩CUDA
OpenAI首颗自研芯片Jalapeño「墨西哥辣椒」实测成绩亮眼，AI推理性能超英伟达全系，功耗仅为一半。它从设计到流片仅用九个月，得益于GPT - Astra协助。有观点认为CUDA护城河或已死，OpenAI正打造算力版图。
阿里云的野心，不在 Agent Builder
近期云厂商动作整齐，如阿里云推出企业级 Agent 全栈服务平台 Agent Studio。企业做 Agent 面临基础设施难题和高成本问题，业内探索了自建、用开发框架、企业级 Agent 平台三种路径，阿里云 Agent Studio 在多方面替企业解决麻烦，还可能改变云服务模式。
只需一次指令微调，大模型变身全能专家天团，8B模型性能反超全微调基线 | ACL25 Oral
预训练大模型适应专业领域需高昂微调成本，稀疏混合专家架构虽能提升推理效率，但从头训练耗资源。浙大与Thomson Reuters团队提出SIMoE，单阶段微调就能升级大模型，还解决传统方法两大局限，在性能和效率上双突破。
突发！Fable 5.1遭黑客破解，27万字提示词泄露
Fable 5.1和Mythos 5.1发布，Fable 5.1推理成本低32%。但发布几小时后被破解，27万字提示词泄露，曝光了其安全限制、隐私保护等秘密。它工具增加，还破解密码、能完成多种任务，不过也有用户抱怨耗token等问题。
都在卷「让大模型多循环几遍」，这个7B模型LoopCoder v2说：多循环 1 次就够了
当下推理模型流行在测试时多循环，以打磨答案。但新研究发现，7B模型LoopCoder v2只多循环1次（共2次），就能大幅提升性能，继续增加循环次数，性能反而下降。研究还分析了收益与成本，给出选择循环次数的诊断方法。
蚂蚁开源 x SGLang Meetup技术回放解读系列之面向DeepSeek系列模型的深度优化与实践
文章是对蚂蚁开源x SGLang Meetup中「蚂蚁Theta面向DeepSeek系列模型的深度优化和实践」分享的解读，详细介绍了在H20-96G上对DeepSeek系列模型推理的优化方案，包括Prefill和Decode阶段的优化、通信优化、观测诊断等，并给出了评测结果。
Kimi K2.6背后的Agent Database：Agent-native 时代的数据 Infra 竞争，跟过去 30 年有何不同
TiDB Cloud 成 Kimi K2.6 供应商，为其 Agent 建站服务提供支持。Kimi K2.6 由 Agent 完成在线应用构建，与其他 AI 建站应用不同，它全托管且用户无需技术背景。该合作解决了成本和基础设施难题，展现了 Agent-native 时代数据 Infra 竞争的新特点。
增长密码：大型网站百万流量运营之道
本书深入探讨了大型网站SEO的底层逻辑，从系统能力、协作能力到创新能力，通过作者亲自操盘的成功案例，揭示了大型网站流量增长的秘诀。书中不仅分享了零成本获客的策略，还涵盖了被动式营销的要领，让读者能够快速掌握SEO的核心技巧。