「AI模型推理」共找到 13786 篇相关文章
大语言模型的解耦：人工智能基础设施的下一轮进化
人工智能模型发展快，但基础设施滞后，传统单体式服务器架构成瓶颈。文章介绍大语言模型推理的预填充与解码阶段差异，指出解耦架构可突破困境，还阐述其经济影响、实施策略、应用案例及未来展望。
GAN之父Ian Goodfellow病后归来，剑指高效世界模型
GAN之父Ian Goodfellow等提出，利用符号化表示和游戏虚拟世界数据，或为构建动作条件多模态世界模型最佳路径，该模型可支持长时序任务预测与规划，还探讨构建原因、数据来源等。
锚定未来，安谋科技Arm China发布"AI Arm CHINA"战略
在ICCAD - Expo 2025上，安谋科技Arm China CEO陈锋发布“AI Arm CHINA”战略，表明全力投入AI决心。AI重塑产业逻辑，安谋科技发挥桥梁作用，推出“周易”X3等产品，构建AI计算生态。
AI 产品定价指南：按量定价的卡点到底是什么？
本文编译 a16z 与 Scott Woody 访谈，探讨 AI 改变软件定价逻辑及企业应对策略，还补充定价专家 Madhavan Ramanujam 关于 AI 产品定价四象限观点，指出按量定价的难点、适用模式及企业转型要点等。
叛变！OpenAI亲儿子竟然选了Kimi K3
OpenAI投资的法律AI公司Harvey，首个自研模型Harvey Tenet选中国开源模型Kimi K3作底座。因原用闭源模型成本高、有竞争风险。Tenet训练成本低、性能佳，显示出可复制路径。
开源大模型实战：GPT-OSS本地部署与全面测评
2025年8月5日，OpenAI发布GPT-OSS-120B和GPT-OSS-20B开放轻量级语言模型，采用Apache 2.0开源许可证。文章介绍通过Ollama本地部署GPT-OSS -20B模型的方法，并对其进行AI幻觉、算法、SQL、数学题等测试。
Karpathy投了一家AI记忆公司，撞名DeepSeek Engram记忆架构
新公司Engram完成9800万美元融资，投资人有Andrej Karpathy等。它想为AI构建能持续学习的“记忆层”，解决模型吸收组织内部知识问题，首个产品是面向Agent的API，已与多家合作。
LLM算力告急？把文本变图片，推理成本直接减半！
大型语言模型处理长文本时计算成本高，本论文探索‘文本即图像’输入压缩策略，将长文本渲染为图像输入多模态模型，可减少近一半令牌，且任务性能不受显著影响，在多任务中验证了其有效性。
模型、代码、数据全开源！轻松训练自己的垂类Agent！
Together AI联合Agentica推出`DeepSWE-Preview`，基于开源Qwen模型，用RL在SWE - Bench - Verified登顶。团队将模型权重、训练框架等全开源，抛弃SFT纯用RL训练，还分享训练秘籍和TTS技巧，为垂类Agent训练提供新范本。
GPT-6要「活」了？MIT新作曝光，AI「自进化」不远了
麻省理工学院推出全新自适应大模型框架「SEAL」，让模型从「被动学习者」变为「主动进化者」。网友猜测GPT - 6可能整合其能力，成为能自主学习的模型，研究虽有局限，但为大模型自进化提供新路径。