「上下文去噪训练」共找到 2905 篇相关文章
一个大脑搞定所有模态，百度ERNIE 5.0技术报告公布
模型发布近3个月后，百度ERNIE 5.0技术报告公布。其底座用超级稀疏架构，参数量万亿但推理激活参数不到3%，实现四种模态原生自回归统一，还在路由调度、训练范式等多方面有创新。
姚顺雨署名：大模型「现学现卖」能力首次被系统评估，腾讯、复旦联手发布CL-Bench
腾讯混元团队和复旦大学研究人员联手推出全新基准测试CL - Bench，系统性评估大模型上下文学习能力。测试显示十大前沿模型表现不佳，揭示当前大模型在该能力上的普遍短板，并指出未来四个探索方向。
个人开发者训400亿参数大模型：分布式算力，DeepSeek架构，3090单卡部署
Nous Research推出Psyche Network，可整合全球算力训练AI。它基于Deepseek的V3 MLA架构，有DisTrO优化器等技术，能让个人和小团体创建大规模模型，还实现40B参数LLM预训练。
【访谈对话】造过 Codex 的人，为什么每天用 Claude Code
Calvin French - Owen 曾参与构建 Codex，如今日常用 Claude Code。他与 Garry Tan 在 YC 播客对话，探讨了编程 Agent 产品哲学差异、分发逻辑、上下文工程等，还提及 Segment 重建、未来设想及安全等问题。
他们让万亿参数RL学会了「省着跑」，顺便砍掉九成算力
2025年，强化学习成大模型进化主战场，但万亿参数模型跑RL成本高。Mind Lab团队实现1T参数模型LoRA高效RL训练，GPU消耗降90%，技术开源。此外还有Memory Diffusion记忆机制等成果。
认知重建：Speckit 用了三个月，我放弃了——走出工具很强但用不好的困境
本文作者分享使用 Speckit 三个月的踩坑经历，探讨 AI 编程工具落地难题。介绍复合工程与上下文工程理念，提出 AI 工程化方案，对比传统工具，阐述其设计、落地策略及未来趋势，助力解决企业开发痛点。
中心动态重分配哈希，北邮团队提出并开源CRH项目 | AAAI 2026
北京邮电大学等机构联合提出新颖端到端框架 CRH，在训练哈希函数时动态更新哈希中心，提升检索精度和语义一致性。论文被 AAAI 2026 收录，代码已开源。
造过 Codex 的人，为什么每天用 Claude Code
Calvin曾带队构建编程Agent Codex，如今日常用Claude Code。他和Garry Tan在播客聊了编程Agent的产品哲学差异、分发逻辑等。Claude Code拆分上下文表现出色，LLM成开发者工具推荐引擎，还探讨了构建、使用编程Agent的要点。
SpaceX为何官宣收购xAI？8万亿太空炼丹梦，别无脑跟进！
2026 年 2 月 3 日，马斯克宣布 SpaceX 全资收购 xAI。直接原因是 SpaceX 盈利而 xAI 烧钱，合并为解决资金问题；根本原因是 Grok 竞争失利，想借 SpaceX 运载能力打造太空算力形成差异。但太空训练面临散热等难题，推理可行。
Generalist最新长文定调：具身原生才是正道，中国玩家原力灵机已交卷
Generalist创始人Pete Florence团队释出GEN-1技术博客，否定世界模型与VLA之争，强调具身智能应回归目标，主张从零训练。中国原力灵机DM0也采用具身原生路线，在RoboChallenge评测中成绩优异。