搜索：高效推理框架

「高效推理框架」共找到 3711 篇相关文章

紫东太初推出GMC核心集剪枝方法，少80%Token仍满血保真多模态能力

视觉Token冗余是多模态模型高效推理与落地的瓶颈，传统筛选方法有缺陷。紫东太初团队提出GMC核心集剪枝方法，具双阶段架构，优势多，实验显示其能在减少Token同时保持性能。

阶跃星辰多模态智能团队开源STEP3-VL-10B多模态模型，仅100亿参数却性能惊人。它采用了独特的架构、训练策略与推理机制，在多任务上表现出色，为小模型发展提供新思路。

文章指出AI模型训练成本虽下降，但运营成本尤其是推理费用飙升，使AI公司陷入两难。用户只青睐最强模型，且模型资源消耗远超预期，订阅模式难以为继，还给出了避免亏损的三条出路。

文章指出，虽模型训练成本下降，但 AI 公司运营成本尤其是推理费用猛增。以固定费率订阅和高 token 消耗的商业模式的公司面临困境，如 Windsurf、Claude Code 等，还给出避免亏损的三条出路。

Google DeepMind的Gemini Deep Think模型在2025年IMO竞赛获金牌水平成绩。虽比OpenAI公布晚，但实现用自然语言解题质的飞跃。它采用增强推理模式，成绩经官方认证，后续将向用户开放。

AI视频生成技术发展迅速，现有检测方法难满足需求。最新综述提出「事实保真度验证」目标，梳理出视觉与语言双视角的四层检测框架，还分析了检测方法演进、评测指标和数据集，为AI视频检测提供落地地图。

具身智能发展中样本效率成瓶颈，传统无模型强化学习依赖盲目试错。清华与加州伯克利团队提出BOOM框架，通过自举循环机制解决在线规划与策略学习矛盾，实验表现卓越，为具身智能落地提供支撑。

传统强化学习（RL）训练LLM Agent面临成本高、任务多样性不足等挑战。Meta团队提出DreamGym框架，以经验合成为核心，通过三大组件协同工作，在多种任务和模型上提升性能，为通用Agent训练开辟新路径。

微软研究院开源AI Agent推理模型rStar2-Agent，140亿参数在多测试超6710亿参数的DeepSeek-R1。其通过智能体强化学习，在训练基础、算法、流程上有三大突破，显著提升性能且降低算力成本。

Sam Altman在X上宣布OpenAI通用推理系统在2025年IMO达金牌水平，同时透露GPT - 5即将发布。OpenAI研究员Alexander Wei介绍突破细节，模型解决多道题获35分。GPT - 5是实验模型，有金牌能力的版本还需等待。