「低熵token」共找到 1591 篇相关文章
大模型如何"不训练"也能学习？——上下文学习的隐式权重更新机制
大型语言模型能通过上下文学习（ICL）在推理时即时学习新任务，无需修改模型参数。本文首次证明自注意力层与MLP层组合能隐式将上下文信息转为MLP层低秩权重更新，解释了ICL原理，为构建AI系统开辟新路径。
学习 MCP 最好的时机是 7 个月前，其次是现在
文章介绍 MCP（Model Context Protocol），它是实现 LLM 与外部能力高效互联的协议，像 USB - C 接口。其采用客户端 - 服务器架构，可让 LLM 突破能力边界。与 Function Calling 相比，MCP 成本低，能让业务团队参与构建智能体。
OpenAI重回巅峰：GPT‑5.5全球SOTA，碾压Opus 4.7
OpenAI发布GPT - 5.5，定位为‘为真实工作而生的新一代智能’。它在编码、科研、办公等多领域表现出色，能力重心转向‘自主完成任务’，在多项评估中成绩优异，还能加速生物医学研究，且Token效率大幅提升。
多模态大模型中Attention机制暗藏「骗局」，需用一个公式修正丨上大×南开
上海大学曾丹团队研究发现，主流VLM中attention受位置偏置和padding区域异常高attention影响，直接用其进行视觉token剪枝会丢失关键信息。团队用公式对attention去偏，集成到多种剪枝方法，提升了模型性能。
大量英伟达GPU开始在仓库吃灰
微软CEO纳德拉承认，公司有成堆GPU因缺电、缺空间闲置。如今电力与数据中心建设跟不上AI产业扩张，算力端企业调整策略，网友建议开发低能耗芯片，微软还将向阿联酋投资建设数据中心。
中国科学PMA|西工大张伟伟、索玮、宋家豪、曹文博：PINNs的局限性讨论与微分方程智能求解展望
物理信息神经网络（PINNs）是求解偏微分方程的热点方法，有统一处理正、反问题等优点，但也存在求解精度低、普适性差等局限。文章剖析其失效根源，展望了改进方向，为构建微分方程智能求解框架提供参考。
Codex正式开放1M上下文！解除GPT-5.6 Sol封印，三行配置搞定
现在3行配置就能让GPT - 5.6 Sol封印解除，在Codex里用上1M上下文。不过有网友警告轻易别用，因超出默认窗口，模型消耗token速度会翻倍，且模型上下文利用能力会下降。此外，Codex确定会上Astra。
百度Qianfan-VL开源，纯国产自研昆仑芯跑出世界一流
百度开源全新视觉理解模型Qianfan-VL，有3B、8B和70B三个版本，在昆仑芯P800芯片上训练。该模型多模态能力强，OCR和教育场景表现突出，跑分超国际主流模型。芯片功耗低、架构优，模型训练方法创新。
首次披露！DeepSeek V3 发布软硬一体协同训练论文，公开「降成本」秘诀
DeepSeek团队发布论文《洞察DeepSeek - V3：规模的挑战和对AI架构硬件的思考》，从硬件架构和模型设计双重视角，探索其经济高效的大规模训练和推理方法，介绍了设计原则、低精度驱动等多方面内容及降成本秘诀。
告别「边画边说」：LatentMorph 开启视觉生成隐式潜空间推理新范式
现有的文生图模型缺乏动态思考与自我修正能力，香港科技大学团队提出LatentMorph框架，将隐式潜空间推理集成到T2I生成过程中，实验显示其显著提升基座模型性能，削减推理延时与Token消耗，实现人机认知对齐。