「小模型推理」共找到 8655 篇相关文章
成本仅0.3美元，耗时26分钟！CudaForge：颠覆性低成本CUDA优化框架
CUDA代码性能对模型训练与推理重要，但手动优化门槛高。明尼苏达大学团队提出CudaForge，是低成本多智能体CUDA Kernel生成与优化工作流，实验效果好，成本低且具通用性。
Snowflake CEO 复盘：为什么 LLM 时代企业需要一个 AI Data Cloud？
Snowflake曾是企业数据平台代表，随AI崛起，CEO Sridhar推动其转型为AI Data Cloud。Snowflake Intelligence上线，不造基础模型，专注放大数据价值，其可靠、计费合理，核心竞争力在数据。
Jev 的「百亿补贴」迷局：既然「极省」为何还要狂送 1.2 亿 Token？
主打省Token的AI模型Jev，近日大手笔向用户发放1.2亿Token额度，本文深入分析这一反常操作背后的商业布局，拆解其抢占Agent小决策判断节点的底层逻辑。
3.9K Star！Antigravity 火了，但更狠的是这个配套工具！
2025年或成Vibe Coding爆发年，Google推出的Antigravity很火。但开源大神开发的Antigravity Tools更厉害，它是中间件，能将Antigravity模型转成“标准API”，有多种功能，适合Vibe Coding重度用户。
无限长、零掉帧！StableAvatar口型同步全新技术
当前音频驱动头像视频生成扩散模型合成长视频时难兼顾音频同步与身份一致，瓶颈在音频建模。复旦大学提出StableAvatar，首个端到端视频扩散Transformer，能无限时长生成，还介绍原理与演示效果。
让机器人学会「预判接触」：它石智航牵头四大顶尖机构发布TacForeSight，破解精细操作难题
它石智航联合四大顶尖机构发布论文 “TacForeSight: Force-Guided Tactile World Model for Contact-Rich Manipulation”，提出力条件触觉世界模型，让机器人能提前预判接触变化，在真机验证中性能优异。
ICML 2025 | 清华、上海AI Lab提出专家级医学基准MedXpertQA，看o3、R1哪家强
本文由清华和上海AI Lab学者撰写，提出专家级医学基准MedXpertQA。现有医学基准难度和临床相关性不足，而MedXpertQA极具挑战、临床相关性高，构建严格，评测显示前沿模型在医学领域提升空间大。
自动化浏览器
Skyvern是能自动化浏览器操作的工具，底层靠大语言模型和计算机视觉。它提供简单API接口，可在大量网站自动化手动操作，替代易出错的自动化方案。介绍了其原理、使用方法、功能等。
RAG创新了，MCompassRAG装上了语义指南针
RAG系统存在chunk切分难题，现有方案有额外成本。MCompassRAG不切细、不rerank，给粗chunk加主题元数据当指南针，训练推理分离，实验显示信息效率提升、延迟降低。
多轮Agent蒸馏终于不翻车！港中文x通义新方法成功率暴涨18点，训练还快32%
香港中文大学联合阿里通义事业群提出TCOD训练方法，解决多轮Agent蒸馏稳定性难题。它只需对现有OPD代码做极少改动，提升了模型成功率，压缩行动步数，还减少训练时间，未来或成训练长程Agent标配。