搜索：小模型推理能力

「小模型推理能力」共找到 9427 篇相关文章

Karpathy 亲手终结了RAG的草莽时代

Andrej Karpathy分享“LLM Wiki”工作流，将多数Token用于构建“可演化知识库”。此方法不依赖复杂架构，在中等规模数据集上展现出强大能力，引发“LLM Wiki杀死RAG”的讨论，在技术社区和企业级市场反响热烈。

Google Research发布TurboQuant压缩算法，将在下月ICLR 2026正式发表。该算法把大模型的KV Cache压缩到3 bit，内存降6倍、速度快8倍且精度零损失，解决了传统算法的压缩开销问题。

大模型后训练阶段，SFT 和 RL 各有优劣。微软等联合提出新工作，量化 SFT 和 RL 在数据层面的差距，提出 IDFT 和 Hinted Decoding 等高效后训练技术，实验显示新方法泛化超 SFT、效率超 RL。

Learn Claude Code是shareAI - lab开源教学项目，目标是让人理解AI编程Agent工作原理。它有12节课，每节加一个机制，逻辑清晰。配交互式Web平台，文档‘心智模型优先’，还提供后续项目助知识落地。

Anthropic与Mozilla合作，让Claude Opus 4.6对Firefox代码库做漏洞挖掘，两周发现22个漏洞，14个高危。Claude发现漏洞能力强，但利用漏洞能力弱。还研究用LLM做「补丁Agent」，为AI辅助安全研究建规范。

内容创意组小伙伴用Pocket 3作OpenClaw的“眼睛”，俯拍工位区，截取图片喂给多模态模型描述场景，下班时让OpenClaw分析趣事。还开发了“OpenClaw人类观察计划”，开发过程简单，降低了Agent体验门槛。

全球AI竞争从技术探索进入应用兑现期，中国凭场景、数据和硬件生态领跑。小米在MWC展示人车家全生态，用顶尖AI能力和10亿级生态让AI走出屏幕，实现空间智能，率先占位全球竞争。

多校联合团队发布ProjDevBench，评估AI编程智能体端到端项目开发能力。结果显示，六种主流智能体总体提交AC率仅27.38%，从零构建任务中性能大幅下滑，还揭示了智能体多方面短板。

在大数据平台高速发展下，传统专家运维模式难应对复杂问题。腾讯专家工程师熊训德介绍大数据智能管家 TCInsight，其架构分三层，结合规则与专家系统提升自治能力，还分享实践案例，指出后续待优化方向。

昆仑万维推出天工Skywork桌面版，专为Windows打造，能调用Claude和Gemini。实测显示，它可高效分类文件夹、提取图片、生成报告等。相比Claude Cowork，其在生态、视觉、模型等方面有优势，还降低了办公门槛。