「预训练语言模型」共找到 8351 篇相关文章
The Batch：836 | 基准测试成本攀升
独立AI测试实验室披露评估推理模型成本上升。这些模型生成“思维链”提升输出质量，但计算需求增加，成本上升使资源有限组织难复现结果，且新模型定价、按需分配推理token也让成本更复杂。
Karpathy 教它的 nanochat 数单词里有几个“r”
Andrej Karpathy 教超小型语言模型 nanochat d32 数单词里字母 r 的数量，创建 SpellingBee 合成任务微调模型，虽像填鸭式教学但有效，不过小模型上下文处理能力有限。
“这个怎么组装？”一句无害的问题，如何让AI产生危险输出
Amazon团队发现全新威胁模型“视觉排他性”，提出MM - Plan框架，通过强化学习训练智能体自动发现攻击策略。实验显示其对Claude 4.5 Sonnet和GPT - 5攻击成功率可观，代码和数据集已开源。
codex负责人：codex就要过时了
Codex负责人称两三个月后Codex将过时，因下一代模型要处理大规模并发Agent，非其能应对。Huggingface实验显示大小模型在不同harness下排名差异大，脱离模型谈harness过时或不适配说模型Agent能力都不妥。
LLM 竟然会内省！Anthropic 整了个大活：首次揭开 AI 意识
Anthropic最新研究《大语言模型中涌现的内省意识》，首次通过直接操控模型内部状态验证AI能否觉察自己思想。研究采用概念注入技术，发现AI有内省能力，且不同模型表现有差异。
国产LLM又迎来一波开源潮：Qwen、华为盘古、腾讯混元、小米~
本周国产开源LLM集中爆发，Qwen、华为盘古、腾讯混元、小米等接连发布模型。如Qwen3 - 4B性能提升，Qwen - Image文生图能力强；华为开源盘古模型并宣布CANN开源；腾讯混元小尺寸模型特点多且已落地业务。
独家解读｜2025年AI五大趋势与底层数据革命
2025 年 AI 发展重心转移，高质量数据成新基石。本文解读五大技术趋势，如多语种 TTS 与全双工交互、多模态大模型等，还介绍了各趋势的数据需求及数据堂提供的相应数据服务方案。
长程执行成具身智能必考题，墨奇的答案是Agentic-Native｜甲子光年
具身智能中长程执行成关键问题，墨奇智能发布具身模型架构MoRA，提出Agentic - Native技术路线，让Agentic能力原生存在于策略模型中，还介绍了模型内部设计、所需数据等内容。
腾讯开源混元Image 2.1：2K高清+完美文字嵌入，图文天花板来了
今天凌晨，腾讯开源最新图像模型混元Image 2.1，支持原生2K分辨率与长提示词，文字嵌入能力强，适用于专业场景。还开源加速版模型权重和提示词改写模型，评估显示其性能达开源最优，接近闭源商业模型。
震撼实锤！清华姚班校友揭「1.4×加速」陷阱：AI优化器为何名不符实？
为降低大模型预训练成本，近年新优化器频出，宣称加速1.4×到2×却难落地。斯坦福研究指出方法学缺陷，对比不同缩放范式加速差异，给出优化器设计见解，证实严格基准评测必要。