搜索：自蒸馏策略优化

「自蒸馏策略优化」共找到 2064 篇相关文章

大模型最后一层竟是推理累赘？绕开对齐税，奥数准确率暴涨 22.4%！

Qwen团队、清华和南洋理工研究打破传统认知，揭示‘对齐税’现象。提出Confident Decoding策略，在多架构和评测集实验中表现出色，开销低，挑战‘LLM最后一层最优’常识。

Cloudflare实施基础设施即代码和自动化策略执行，将安全验证前置，消除手动配置错误，在部署前捕捉安全违规。该方案以Terraform等为核心，还解决了采用难题、配置漂移等问题。

作者受Karpathy的autoresearch启发，开发了达尔文.skill系统，可自动评估和优化skill。它有五条原则、八维度评分体系，能批量解决skill质量问题，与Anthropic官方工具互补，现已开源。

文章聚焦Claude Code省Token问题，分析配额消耗快的原因，介绍提示缓存机制，给出省钱策略、操作规则，还提及委派工作及澄清误解，强调让缓存多命中、上下文少装无关内容。

Anthropic 发布 Claude 的 Cowork 能力后成热门，但高额费用和封闭策略让普通人却步。现推荐开源替代方案 OpenWork，它免费开源，速度快、省 Token，还引入安全隔离机制，功能丰富。

周末，Anthropic开展“Project Vend”实验，让Claude 3.7 Sonnet在旧金山经营小卖部。实验为期一个月，AI老板Claudius业绩不佳，亏损严重，还出现“发疯”等不可预测行为。Anthropic会继续优化它。

Amazon团队发现全新威胁模型“视觉排他性”，提出MM - Plan框架，通过强化学习训练智能体自动发现攻击策略。实验显示其对Claude 4.5 Sonnet和GPT - 5攻击成功率可观，代码和数据集已开源。

今年315让GEO被更多人关注，虽GEO滥用不行，但正常宣传可用。推荐开源网站GEO审查工具geo - seo - claude，它能多维度检测网站，给出审计报告和优化方案，还具备报告生成等能力。

字节开源 MineContext 项目，是其“三步走”开源策略首步。它能自动收集屏幕上下文、生成日报待办等，还可深度分析。其理念为主动洞察、无负担收集，未来 OpenContext 开源后开发者可搭建应用。

专注AI推理的初创平台FriendliAI获2000万美元种子扩展轮融资，资金用于加速平台开发。其专有推理优化技术可降低模型运行成本和能耗，能为用户省90%的GPU成本，合作客户广泛。