「小模型推理能力」共找到 9427 篇相关文章
不止于量化：最新综述用「时-空-构」三维视角解构KV Cache系统级优化
随着LLM向1M上下文演进，KV cache成推理服务效率核心瓶颈。墨尔本大学和华中科技大学研究者发布深度综述，用「时间 - 空间 - 结构」视角梳理KV cache优化方法，还归纳关键观察、提出开放挑战，并整理了资源库。
Agent时代，为什么多模态数据湖是必选项？
AI时代，数智化底层是基建深耕。企业要构建多模态数据湖，因其能处理多模态数据，唤醒沉睡数据，驱动业务，还提供工程确定性。火山引擎给出升级路线及选型指南，其多模态数据湖已在多行业落地。
笑死！xAI员工竟用Claude写代码？这回Anthropic反手拔了马斯克的网线
2026年1月8日消息，xAI联合创始人通知员工，Cursor中的Claude模型无法响应，是Anthropic针对对手的新政策。此前Anthropic已多次调整策略，封杀竞争对手，其目的包括保护数据资产等。xAI或加速自研，行业或开启军备竞赛。
一文看懂 TritonNext 2026：FlagOS 亮点详解、语言扩展新趋势、AI 生成更加“底层”、芯片软件生态或迎“新拐点”！
1月9日，「2026 TritonNext技术大会」召开，专家探讨AI编译器等最新解法。如林咏华介绍FlagOS v1.6应对生态难题；崔慧敏用“AI for Compiler”破芯片演进难题；上海人工智能实验室推出DLCompiler打破算子开发困境等。
阿里巴巴新论文：让LLM学会管理记忆，告别人工规则
大型语言模型处理长对话或复杂任务时，记忆管理靠人工规则，效果有限。阿里巴巴团队新论文提出把记忆管理变为可学习的强化学习策略，AgeMem框架统一长短期记忆管理，经三阶段训练，效果显著。
看完 Manus、Cursor 分享后的最大收获：避免 Context 的过度工程化才是关键
上下文工程优化是Agent创业公司新一年竞争重点，其信息质量很大程度决定Agent表现。文章结合Manus、Cursor团队思路，给出做好上下文工程要点，如缩减上下文、搭建工具行动空间、多Agent协作等。
港大开源视频版RAG，像聊天一样看完百小时纪录片。
港大HKUDS团队开源超长视频理解框架VideoRAG，突破传统模型时长限制，支持对数百小时视频精准检索和问答。还有桌面应用Vimo，使用简单高效。介绍了其切片索引、混合检索、生成回答的实现逻辑。
深度拆解：如何在 LangChain DeepAgents 中复现 Claude 的 Skills 机制 ？
本文探讨在LangChain的DeepAgents框架复现Claude的Skills机制。先回顾Skills，它是Anthropic提出的Agent能力注入方式，有渐进式加载特点。接着介绍让通用框架支持Skills的环节，最后测试验证其效果和收益。
从CLI原理出发，如何做好AI Coding
文章从CLI原理出发探讨AI Coding，介绍CLI产品美学、技术原理，比较Single Agent与Multi Agent，还给出用好CLI写代码的建议，如正确认识AI、学习Prompt工程等，最后提及利用通义万相AIGC实现图像生成。
别人在测 Demo，我已经用MiniMax M2.1跑通了整个产品开发流程
作者黄叔用自研产品「降噪」测试 MiniMax M2.1，从 Skills 优化、页面样式、沉浸式交互、智能搜索四个维度检验实战能力。结果显示 M2.1 优势明显，虽有不足，但已能满足多数日常开发任务。