「推理优化与部署」共找到 3516 篇相关文章
KV-Cache 实战策略：生产环境中的分页、固定与复用技术解析
在大语言模型推理场景中，KV - Cache 是平衡性能与成本的核心技术，但生产环境中面临诸多问题。本文聚焦其分页、固定与复用三大战术，结合原理、实践与案例，为开发者提供解决方案，还探讨了未来演进方向。
2025 年中丨大模型市场分析报告
这是《2025年中丨大模型市场分析报告》。指出基础大模型塑造计算未来，企业重心转向推理。Anthropic超OpenAI成市场头号玩家，开源模型采用趋缓，企业换模型重性能，AI支出从训练转向推理。
上海人工智能实验室让AI像科学家一样在探索中发明工具
上海人工智能实验室等团队提出推理时工具演化（TTE）框架，推动AI在科学领域从被动选工具到主动发明工具。它解决传统工具库问题，提升多学科推理准确率，赋予AI跨学科迁移能力。
大厂代码库几百万行，Claude Code怎么跑起来的？Anthropic首次公开全套打法
Anthropic发布文章总结Claude Code在企业规模部署的最佳实践。Claude Code导航类似软件工程师，与RAG驱动工具不同。其harness由多扩展点组成，在部署中有三种常见配置模式，还给出应用建议。
默认联网搜索开启，DeepSeek、豆包、Kimi、百度文心一言、腾讯元宝、通义、智谱、天工等AI生成内容信息采集主要来自哪？
作者白杨SEO分享AI搜索优化，提到部分AI大模型默认开启联网搜索，利于做AISEO。还逐个分析DeepSeek、豆包等AI生成内容信息采集来源及占比，助于做好AI搜索优化。
AMD发布旗舰AI芯片，称性能比肩英伟达
当地时间6月12日，AMD CEO苏姿丰在大会展示多款AI新品，将新AI芯片与英伟达同类产品对比，称性能比肩且性价比高。还展示了新软件栈、介绍下一代AI机架产品，预计推理成未来AI发展主驱动力。
警惕！大模型成本倒挂：你正在为模型的多余「思考」买单
一项来自多所高校和微软研究院的研究揭示AI模型价格倒挂现象，低定价模型可能产生更高实际开销。研究聚焦8个前沿推理模型和9个主流数据集，指出推理token是成本倒挂主因，且实际开销难以预测。
现实版“盗梦空间”？欧洲极客论文全网爆火，一战戳破三大巨头安全神话，35万机密在公网裸奔
欧洲两位安全研究员的论文《从专有 LLM API 中窃取推理轨迹》爆火。他们揭示 OpenAI、Anthropic 和 Google 用的“无状态架构”有漏洞，能利用小模型解码大模型推理轨迹，导致隐私泄露等风险。
Reasoning新突破：SoftCoT++如何让LLM‘多想几条路’？
LLM推理依赖‘思维链’，传统方法在离散token空间生成步骤有信息丢失、多样性不足问题。SoftCoT++在连续空间生成‘软思维’，拆分‘思考’与‘推理’，用专用初始token和对比学习，实验中全面超越传统方法。
字节Seed团队发布循环语言模型Ouro，在预训练阶段直接「思考」，Bengio署名
现代LLM依赖显式文本生成训练“思考”，未充分挖掘预训练数据潜力。字节Seed团队联合多家机构推出循环语言模型Ouro，将推理能力构建到预训练阶段，实现参数效率提升，还降低了有害性。