搜索：两阶段后训练方法

「两阶段后训练方法」共找到 3676 篇相关文章

CVPR 2026 | ReFTA：打破张量化PEFT的「权重重建」瓶颈

随着大模型发展，全参数微调成本高，参数高效微调（PEFT）成主流。常见基于矩阵低秩分解的PEFT方法有局限，张量化PEFT虽有优势但存在权重重建问题。本文提出ReFTA方法解决该问题，有工程和理论优势。

文章以租赁导购助理“小不懂”为例，介绍Tool Use训练数据合成方案。先分析训练数据的目标与难点，提出动态多智能体对话生成框架，阐述多轮数据、复杂问题合成及过滤方案，展示数据和模型效果，还提及未来工作方向。

IJCAI 2026大会上，秦浩桐给出创新解法，挑战无需重训的“后训练量化”极限，将庞大的LLM强行压缩至极端的1比特与2比特。其团队的BiLLM与SqueezeLLM打破了后训练量化魔咒，还指出极低比特量化的三大挑战。

星海图CEO高继扬在AGI Playground大会分享具身智能观点，认为2026年是下半场，核心是应用。具身智能发展慢因缺高质量数据和合适本体，未来产品形态或为‘整机+预训练模型+后训练工具’，下游将形成大生态。

文章深入剖析 RAG 技巧与底层代码，从用 Python 基础库构建 RAG 系统，到多种优化方法如上下文增强检索、添加上下文块标题等，还涉及查询改写、重排序等技术，最后介绍了上下文压缩、反馈机制等提升系统效率和质量的方法。

自动化 MCP 是模型上下文协议服务器，为AI提供完整 macOS 桌面自动化能力，如控制鼠标、输入指令等。文章介绍了安装、使用工具、架构、安全权限、集成示例等内容。

苹果提出内存高效型反向传播（MeBP），可在内存使用量和计算时间上比零阶优化（ZO）有更好权衡，收敛更快、性能更优，还在iPhone 15 Pro Max验证其有效性，且公开了实现链接但目前为空。

10月，AI圈顶流Andrej Karpathy有三连动作：开源nanochat项目，100美元可复刻ChatGPT；发表AGI十年论，给行业泼冷水；推进Eureka教育项目，重构AI教育范式。

谷歌DeepMind与陶哲轩等打造的AlphaEvolve是LLM驱动的进化编码Agent。它能优化计算生态、调度数据中心等，还解决了数学难题，已在谷歌内部使用，现开启早期邀测试用。

AxonHub 是 All - in - one AI 开发平台，有统一 API 网关等功能。具备统一 API、追踪等核心特性，支持多种 API 类型和格式，介绍了不同部署与使用方法。