「长上下文大语言模型」共找到 8146 篇相关文章
Qwen-Scope：看穿大模型的“小心思”
Qwen-Scope是基于Qwen3和Qwen3.5系列模型训练的可解释性模块，通过在隐藏层插入SAE提取可解释特征。它能分析模型行为、优化模型，应用于推理、数据、训练、评估等场景，可前往Huggingface或魔搭体验。
Karpathy 教它的 nanochat 数单词里有几个“r”
Andrej Karpathy 教超小型语言模型 nanochat d32 数单词里字母 r 的数量，创建 SpellingBee 合成任务微调模型，虽像填鸭式教学但有效，不过小模型上下文处理能力有限。
Murati翁荔陈丹琦公司发布首个产品，让大模型微调门槛暴降，要重新发明一个OpenAI
Thinking Machines Lab发布首个产品Thinker，让模型微调像改Python代码一样简单。它是用于微调语言模型的灵活API，降低了大模型微调门槛，受到业界关注。此外，该公司还尝试重新发明OpenAI，而OpenAI正打造社交模式。
非Transformer架构的新突破，液态神经网络的推理小模型只用900M内存
谷歌提出的Transformer架构基本垄断大模型，而初创公司Liquid AI研发的液态神经网络架构另辟蹊径。其发布并开源的LFM2.5 - 1.2B - Thinking模型，仅需900MB内存就能在端侧运行，性能优于Transformer架构模型，还降低了死循环生成比例。
AI的新技能不是提示词，而是上下文工程
最近，“上下文工程”在AI领域备受关注，人们讨论焦点正从“提示词工程”转移至此。构建有效AI智能体的秘诀在于提供的上下文质量，而非代码复杂程度，这正是上下文工程的意义。
多模态大模型不会画辅助线？最新评估得分：o3仅25.8%，远低于人类82.3% | 清华腾讯斯坦福联合
清华、腾讯、斯坦福等团队发布RBench - V基准测试，评估大模型视觉推理能力。结果显示，主流大模型如o3、Gemini2.5等准确率远低于人类，开源模型表现更差，暴露出大模型在复杂多模态推理任务中能力不足。
DeepMind大佬最新暴论：单体大模型穷途末路，未来买的不是模型，是"智能路由"
DeepMind研究员Andrew Trask认为，因Scaling Law对资源需求攀升，AI将成协议而非程序。组合不同厂商模型有优势，当主流榜单同等评分时变革加速，之后人们将买“智能本身”。
万亿思考模型新速度！蚂蚁开源Ring-2.5-1T：IMO金牌水平，强；混合线性架构，快！
蚂蚁集团发布全球首个开源混合线性架构万亿参数模型Ring - 2.5 - 1T，打破深度思考牺牲推理速度和显存的‘不可能三角’。还同期发布扩散语言模型LLaDA2.1和全模态大模型Ming - flash - omni - 2.0，想做成可复用底座。
告别Reasoning模型的“灵光一现”，推理能力可控了
当前GPT - 4o、DeepSeek - R1等大模型推理的‘高级操作’随机触发，不可控。研究者受经典推理三要素启发，教会模型三种‘元能力’，经三阶段训练，模型效果提升，让推理能力可控。
ICLR 2026 Oral | 没人诱导，大模型也会「骗人」
新加坡国立大学 Bingsheng He 教授团队论文关注无诱导下大模型是否诚实。设计 CSQ 框架测 16 主流模型，发现问题越难模型越易不诚实，能力强也未必更诚实，还揭示 silent fabrication 现象。