「参数量估算」共找到 1251 篇相关文章
100万亿Token看懵硅谷！全球一半算力写代码，另一半在「搞颜色」 ？
OpenRouter和a16z联合发布报告，基于100万亿Token实证数据揭秘2025年AI发展。开源模型流量占比达30%，推理模型成主流，编程和角色扮演是主要使用场景，亚洲付费使用量翻倍，中文成全球第二大交互语言。
华为新开源！扩散语言模型突破32K上下文，还解锁了「慢思考」
今年文本生成领域从自回归向扩散语言模型转变，但长序列训练不稳定是痛点。华为发布 openPangu-R-7B-Diffusion，将上下文长度扩至 32K，在多基准创 7B 参数量级 SOTA，还解析了其技术革新。
从少样本到千样本！MachineLearningLM给大模型上下文学习装上「机器学习引擎」
新研究 MachineLearningLM 提出轻量可移植「继续预训练」框架，突破 LLM 在上下文学习局限，能学上千示例，在多领域分类任务超基准模型。它有三项核心创新，效果惊艳且应用潜力大，还指明未来研究方向。
字节Seed团队发布循环语言模型Ouro，在预训练阶段直接「思考」，Bengio署名
现代LLM依赖显式文本生成训练“思考”，未充分挖掘预训练数据潜力。字节Seed团队联合多家机构推出循环语言模型Ouro，将推理能力构建到预训练阶段，实现参数效率提升，还降低了有害性。
只有0.9B的PaddleOCR-VL，却是现在最强的OCR模型。
近期OCR赛道火热，作者应读者要求解读PaddleOCR-VL。它是百度PaddleOCR系列新模型，仅0.9B参数，在OmniDocBench v1.5评测多项领先。其架构高效，实测处理各类文档能力强，已开源。
ICLR2025 | LLM为什么能拒绝回答有害问题呢？
该论文首次系统性研究注意力头在LLM安全中的作用，提出Ships和Sahara方法，在极少参数改动下显著降低模型安全性，发现不同模型安全头高度重叠，为理解模型安全机制提供新视角。
4B模型幻觉抑制能力超越GPT-5，CMU等提出行为校准强化学习新方法
大语言模型幻觉问题是部署难题，CMU等研究人员提出行为校准强化学习新方法，重新设计奖励函数。经训练，40亿参数模型幻觉抑制力超GPT - 5，实验证明该方法效果显著，还带来理论洞察。
超越Claude Mythos和GPT-5.5！斯坦福Agent验证框架拿下SOTA，Transformer作者转发
斯坦福、伯克利与英伟达联手打造LLM-as-a-Verifier验证框架，该方法是通用验证机制，可与任意Agent Harness和模型结合。研究表明扩展验证阶段计算量，能提升Agent整体性能，在多基准测试中超越Claude Mythos和GPT - 5.5。
上周 GPT 和 Codex 各有一个发布，很多人没注意吗？可以解锁 Codex 百万上下文了
最近基模发布多，OpenAI 俩更新被低估忽略。一是 GPT - 5.6 Sol 的 Ultrafast 模式，输出最高达每秒 750 Token，先向少量 API 客户开放；二是 Codex 为其开放百万上下文能力，不过大窗口有代价。
阿里妈妈发布MUSE：用多模态搞定十万级超长行为序列，并开源Taobao-MM数据集
阿里妈妈与武汉大学团队发布 MUSE 框架，用于终身用户兴趣建模，能处理 10 万级超长行为序列。还开源 Taobao - MM 数据集。MUSE 可插拔，已在阿里妈妈展示广告精排模型全量上线，提升 CTR 等指标。