「Tread策略」共找到 903 篇相关文章
千卡集群破壁之道：vivo视觉多模态大模型训练效率跃迁实战
多模态大模型在多领域需求增长，但千卡级 GPU 训练挑战大。vivo AI 架构师王兆雄在大会演讲，结合 LLaVA 和 DiT 模型实践，解析优化策略，分享提升训练效率与稳定性的经验，还展望了 AI Infra 未来。
AI秒懂短视频，快手大模型Keye-VL理解力爆表！技术细节全开源
快手全新多模态大语言模型Kwai Keye-VL上线且开源，能深度融合多模态信息，在视频理解、复杂视觉感知和逻辑推理上表现优异。介绍了其技术架构、预训练和后训练策略及训练架构优化等内容。
南洋理工 | 推出开源版MetaQuery：OpenUni，1.1B参数媲美BLIP3-o-8B
南洋理工大学 S-Lab 和商汤科技团队推出开源版 MetaQuery——OpenUni，仅 1.1B 参数就达 8B 模型性能。它架构极简、参数高效且完全开源，还采用两阶段训练策略，虽有局限但为多模态模型研究助力。
深度对话 Benchmark 合伙人：AI 打破了 SaaS 的 3322 规则改变创造本质
Benchmark 合伙人 Eric Vishria 与 Banana Capital 合伙人 Turner Novak 对话，分享 AI 时代创业看法、投资策略等。他认为 AI 打破 SaaS 增长法则，关注创始人叙事、学习能力，坚持投资非凡公司，还谈了对上市、估值等的观点。
谷歌Transformer过时了？清华姚班校友等三连击，爆改注意力！
谷歌提出新架构，参数减少40%，训练速度较RNN提升5 - 8倍，某些任务性能超Transformer 7.2%。新架构引入注意力偏向策略，用「保留」取代「遗忘」，还提出Moneta、Yaad、Memora三个新模型，在多任务上表现卓越。
字节Seed新作：模型合并如何改变大模型预训练范式
字节跳动Seed团队在arXiv发表论文，提出预训练模型平均（PMA）技术。该技术将模型合并引入预训练阶段，可提升性能、预测衰减阶段表现，还能解决训练问题。不过，高学习率影响和强化学习应用待研究。
「推理革命」爆发100天：DeepSeek-R1复现研究全揭秘！
本文深入梳理围绕DeepSeek-R1的复现研究，解析监督微调、强化学习等关键技术细节，介绍相关数据集、训练方法及奖励机制等，还探讨了推理语言模型更多发展方向，为研究提供基础。
机器人也有“Aha Moment”！Zetta ζ 闭环物理智能体在线学习
端到端策略模型在物理世界失灵，现有在线学习路径未走通。清华 AIR 与域变换联合推出 Zetta ζ，通过三个闭环实现闭环物理智能体在线学习，实验显示其任务成功率高，还让机器人出现‘Aha Moment’。
Claude Opus 5被扒光了！1511行提示词底牌全摊开
Anthropic的Claude Opus 5上线当天，系统提示词被开发者Eversmile1传到GitHub。提示词含产品说明、法务合规手册、推销渠道内容。其记忆规则严格，版权引用限制多，商业推荐有不同策略。上线24小时能力被广泛测试。
胜率直逼人类大师！这套Agent揭开中国AI「玄学真相」
在无信息泄漏的术数题库中，Claude、GPT等主流模型准确率低，而Tianfu Agent系统将准确率提至50%，逼近人类Top20选手。它采用多Sub - Agent协作等策略，还在工具管理、规则使用等方面有创新。