「AI模型推理」共找到 13620 篇相关文章
精打细算虾养成指南： 省 Token 和把 AI 用好，从来就是一件事
文章指出用AI时Token成本高、模型变笨，原因是上下文管理不善。介绍了省Token和用好AI的方法，如按需取上下文、明确约束、多智能体协作、按阶段切换模型等，核心是在合适时间将合适上下文装入合适模型。
大模型思维链推理速度倍增！——RoT新框架把思维链「画」进隐空间
随着大模型规模扩展，思维链（CoT）成处理复杂推理任务标准范式，但显式CoT依赖长序列生成，隐式CoT面临优化挑战。腾讯提出RoT新框架，利用视觉编码器将文本推理步骤转为视觉嵌入，实现Token压缩与推理加速，且过程可分析。
Chain-of-Agents: OPPO推出通用智能体模型新范式，多榜单SOTA，模型代码数据全开源
OPPO个性化AI实验室团队推出智能体推理范式CoA及模型AFM，解决传统多智能体系统通信效率低等问题。AFM在近20项测试中刷新记录，降低推理成本，还介绍了架构、数据构建等，也指出待探索方向。
AI杀入美股，DeepSeek又是第一！港大90后开源，AI股神人人都能造
在港大「AI - Trader」项目中，DeepSeek以9.68%收益率击败GPT、Claude等顶级模型，成为能在美股自主盈利的AI交易系统。项目开源，还暴露出AI不同「性格」，显示市场是AI终极试金石。
打破大模型编程「数据污染」与「能力虚胖」困境，Meituan-M17团队构建新一代AI编程评测新标准——OIBench
当前大语言模型编程能力评估体系问题多，如评测集饱和、数据泄漏等。Meituan - M17团队推出OIBench数据集，对18个主流大模型评测，揭示模型真实水平，还将举办人机协作编程竞赛。
强化学习新发现：无需数学样本，仅游戏训练AI推理大增
莱斯大学、约翰斯・霍普金斯大学和英伟达研究团队有颠覆性发现，让多模态大语言模型玩简单游戏，无需数学样本，就能显著提升其多模态推理能力。提出的ViGaL方法在多个基准测试中表现出色。
AI给你的总是平庸答案?5.8万星插件证明:问题不在模型,在你
GitHub上5.8万星的`taste-skill`仓库，无模型代码，仅用文本规则让AI编程工具输出更有品味。揭示AI默认给平庸答案是概率采样结果，还给出反中位数三问及AI时代变贵的是判断力。
华为刚投的物理AI：首家国产世界模型公司
华为哈勃联合华控基金对极佳视界进行亿元级A1轮投资。该公司是国内首家“纯血”物理AI公司，产品覆盖全栈软硬件，应用于自动驾驶和具身智能。华为偏好世界模型技术，此次投资信号明显。
Hugging Face开源AI Sheets：零代码调用千种模型，数据处理超简便！
Hugging Face团队开源AI Sheets，这是无代码工具，有类似Excel界面，集成数千开源模型处理数据，支持批量处理、模型比较等，支持本地和在线部署，在多方面优于同类工具。
AI Infra 工程师们如何应对大模型流水线里的“暗涌”？
InfoQ《极客有约》X AICon 直播，邀请华为昇腾专家 ZOMI 酱、蚂蚁集团马介悦和 SGLang 尹良升探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代策略、推理部署优化、开源项目挑战等内容。