「轻量化」共找到 341 篇相关文章
不用花Anthropic API的钱，本地跑Qwen3.5就能用Claude Code
文章介绍不花Anthropic API的钱，用本地Qwen3.5跑Claude Code的方法。包括选模型、编译安装llama.cpp、下载量化模型、启动本地服务、配置Claude Code指向本地服务等步骤，还提及踩坑建议和使用方法。
击败 GPT-5！理想汽车开源 RubricHub：大模型开放生成从此有了专业裁判
理想汽车基座模型团队联合高校发布RubricHub数据集，解决开放式任务评价难题。该数据集可将主观评价转化为量化标准，经其训练的Qwen3 - 14B小模型在医疗基准测试中超越GPT - 5。
Skills火爆之后，我收集并整理了最近全网火爆的Skills，拿走不谢～～～
文章介绍 Agent Skills，称其是 AI 助理的「使用指南」，技能分浏览、加载、使用三阶段加载，有快且轻、跨平台、易分享等优势。还推荐多个优秀 skills 及相关工具网站，提醒从业务出发看待它。
杨植麟带 Kimi 团队深夜回应：关于 K2 Thinking 爆火后的一切
上周，月之暗面发布并开源 Kimi K2 Thinking，主打“模型即 Agent”，一上线便引发关注。今日凌晨，杨植麟等人在 Reddit 开展 AMA 活动，回应 K2 Thinking 一系列问题，还回顾了其在多项测试中的亮眼成绩。
万字长文！大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。
AGI失控率＞90%！MIT教授算出「康普顿常数」，AI地球「夺权率」已锁定？
MIT教授研究指出，即使采用理想监督机制，人类成功控制超级智能概率仅52%，全面失控风险超90%。研究通过量化分析提出嵌套可扩展监督等理念，并在四个真实监管场景验证，探讨如何优化现实监管系统。
用 AI 重新定义 RSS 阅读体验FeedMe
FeedMe可一站式了解多信息源新鲜事，轻量自由且可定制。具备多源RSS聚合、AI摘要生成等功能，支持多种部署方式，如GitHub Pages、Vercel、Docker本地部署，还给出开发指南，项目开源方便Fork和自部署。
震惊海外开发者！BOSS直聘3B小模型比肩80B，怎么做到的？
BOSS直聘楠北阁团队发布3B轻量端侧小模型Nanbeige4.1-3B，性能震惊海外开发者。团队从多方面改进，如优化推理和偏好对齐，重构训练数据，采用多种强化学习算法，使其性能比肩大模型。
大模型微调评测入门：看懂这些指标，才知道模型好不好
文章指出大模型微调中很多新手重“调”轻“评”，评测是决定模型落地的关键。介绍分类和生成任务评测指标，给出实操步骤，还说明如何综合判断模型好坏，最后展望评测技术朝自动化等方向发展。
12ms！一个仅8M的语音停顿检测模型
语音助手准确判断用户是否说完是挑战，Smart Turn将决策过程缩至12毫秒。其v3.1版有改进，新增数据集提升英语识别准确率，推出未量化版本推理更快，8MB模型性能优，已在HuggingFace开源。