搜索：混合训练框架

「混合训练框架」共找到 3570 篇相关文章

自适应Agent基础模型：从“会推理/会用工具”到“懂得取舍的执行者”

当前大型语言模型在智能体/工具调用场景有推理型和工具型两类，存在效率与功能、深度的矛盾。A²FM框架提出多模式自适应路由，实现模式自适应切换，在多基准测试中效果与效率双升。

腾讯开源端到端文档OCR模型POINTS-Reader，论文被EMNLP 2025主会录取。它提出可扩展数据生成方案，具简洁、性能好、高吞吐量等特点，通过两阶段训练方案解决依赖蒸馏数据问题，在多基准测试表现佳。

字节Seed发布全新多模态智能体框架M3 - Agent，能听会看、有长期记忆且免费开源。团队还开发新长视频问答基准M3 - Bench并开源。实验显示，M3 - Agent在多基准测试中显著优于基线模型。

向来低调的小红书昨日开源首个自研大模型 dots.llm1，它是中等规模的 MoE 模型，在较小激活量下性能良好。其开源力度堪称行业最大，还介绍了数据处理、训练优化等多方面技术细节。

去年谷歌定义了Agent，如今随着大模型发展其能力升级。Skywork AI推出Super Agent平台，有5个专家AI agent和1个通用AI agent，能生成多类型内容且支持溯源。它突破行业瓶颈，还开源相关框架和MCP。

假期时Karpathy提出llm.wiki想法引发关注。它是元框架，定义人类与AI协作管理知识的方式。与RAG不同，它将新材料关键信息编入已有wiki并持续维护。作者用多种数据测试，发现TextIn API解析效果好，还优化处理流程提升质量。

AI圈掀起“养龙虾”热潮，智谱、腾讯纷纷发布相关产品。极客和开发者对龙虾进行实测，它不仅能用于打造赛博宠物、线上办公室，还能完成视频剪辑、教辅、营销等工作。同时，Agent框架让大模型进入业务线，飞书成合适的工作台。

如今的大语言模型推理能力关键在于测试时扩展，但长思维链有局限。微软研究团队用主动式强化学习探索，成果 rStar2 - Agent 方法训练出 14B 的 rStar2 - Agent - 14B 模型，性能超 671B 的 DeepSeek - R1。

苹果发布会开场6分钟市值缩水750亿美元，因Siri更新推迟。此次发布有新设计、AI更新等，但用户和投资者不满。苹果虽有AI动作，如集成ChatGPT、推新框架等，但战略难有重大突破，已考虑与第三方合作。

本文从`babygpt_v1.py`出发，逐步加入self-attention机制、position嵌入等，实现完整GPT。介绍Transformer结构，讲解位置编码、单头自注意力等机制的代码实现，还阐述后续层的用途、参数调整及训练效果，最后提及模型优化方向。