「预训练策略」共找到 2851 篇相关文章
如何科学地“设计”SFT 数据？一次关于 ODA 的完整平台级验证
大模型后训练阶段，SFT数据构建常依赖‘直觉’或‘试错’。上海人工智能实验室OpenDataLab团队发布报告，基于OpenDataArena提出新范式，将数据集构建从‘随机艺术’变为‘确定性工程’，并进行平台级验证。
BAI、高瓴领投，ThetaWave李文轩：我们想成为下一代年轻人默认的知识获取入口
AI-Native知识内容平台ThetaWave AI获数百万美金Pre - A轮融资，创始人李文轩分享创业历程、产品方向、获客与本地化策略等，还谈及产品功能、竞争优势及未来愿景，想成新一代内容平台。
关于多模态大模型Token压缩技术进展，看这一篇就够了
多模态大模型跨模态融合带来高计算成本，催生MLLM Token Compression研究。北大等机构人员基于压缩位置对方法系统归类，讨论特定场景压缩机制选择，还探讨了挑战与前景方向。
SmartSearch：奖励驱动query精炼，让Agent中的RAG会“改错”
现有LLM搜索Agent忽视‘如何提问’致答案易出错。SmartSearch提出‘过程奖励+查询精炼’双机制，让Agent学会‘写不好就改’，代码已开源。经实验，它在六数据集全面领先，各机制缺一不可。
“心内推理”：一种动态多模态潜在空间推理范式 | 直播预约
当前多模态大模型推理效率低、稳定性不足。本次分享将介绍DMLR，它无需额外训练，仅在推理阶段生效，通过在潜空间优化潜在思考token、引入关键视觉信息，实现高效稳定的多模态推理。
王小川：30亿现金在手，明年IPO，toC产品马上就发
百川智能CEO王小川明确发展主线，百川开源新一代医疗大模型Baichuan-M3，在医疗评测中表现优异。公司约30亿资金，预计2027年IPO，今年将发两款to C医疗产品，重点在院外诊疗。
构建 Agent Native 软件的完整技术指南
Dan Shipper 和 Claude 联合撰写构建 Agent 原生软件技术指南，总结如何重新思考软件架构，让 Agent 成软件一等公民。指南源于实战，介绍构建原则、方法、执行模式等，还提及产品影响、移动端挑战及应对。
Anthropic 最新博客：构建 AI Agent 评估体系完整指南
Anthropic 工程团队发布博客《Demystifying evals for AI agents》，揭秘内部对 AI Agent 的评估方法，涵盖评估结构、构建原因、常见 Agent 类型评估技术、评估非确定性处理、构建路线图及与其他方法配合策略等。
注意力机制大变革？Bengio团队找到了一种超越Transformer的硬件对齐方案
Transformer虽改变世界但不完美，线性递归等新方法理论有优势，实际在GPU表现不佳。Bengio团队提出硬件对齐算法框架，用滑动窗口循环和B2P算法，实验显示有速度与质量双重突破。
告别“音画割裂”与“人物崩坏”！AutoMV：首个听懂歌词、卡准节拍的开源全曲级MV生成Agent
现有AI视频生成模型做全曲MV有时长限制、音画割裂和一致性差等问题。AutoMV作为开源多智能体系统，模拟人类影视制作流程，能生成长达数分钟、叙事连贯且音画同步的完整MV。