「探索熵机制」共找到 1554 篇相关文章
多模态大模型中Attention机制暗藏「骗局」，需用一个公式修正丨上大×南开
上海大学曾丹团队研究发现，主流VLM中attention受位置偏置和padding区域异常高attention影响，直接用其进行视觉token剪枝会丢失关键信息。团队用公式对attention去偏，集成到多种剪枝方法，提升了模型性能。
NeurIPS 2025 | 蚂蚁CGM：图融合架构重塑代码大模型，探索非 Agent 新范式
在NeurIPS 2025上，蚂蚁将展示Code Graph Model (CGM)。它把代码库图结构集成到开源LLM，开启新范式，在代码库级任务上以非Agent方案登顶开放权重模型榜首，解决了复杂软件工程的Agent依赖难题。
NTU S-Lab 团队探索可动 3D 新方向：结构、关节、纹理一次到位
南洋理工大学 S-Lab 团队发布研究，提出统一建模框架，能从单张图像生成可动三维对象，在几何精度、外观一致性与运动合理性上显著提升，解决了现有方法的难题，为相关领域发展奠定基础。
迎接「万物皆可RAG」时代：最新综述展示50多种多模态组合的巨大待探索空间
大模型常采用RAG技术，多模态崛起使RAG向MM - RAG发展。目前MM - RAG研究初级，华中科技大学等研究者发布综述，覆盖所有模态组合，剖析工作流，提供构建系统的一站式指南。
探索文本压缩极限！C3纯文本压缩pipeline：20倍压缩解码准确率98%
DeepSeek团队的DeepSeek - OCR技术引发关注，研究者重新审视视觉压缩路径后提出C3技术。C3采用纯文本压缩管道，实验表明其压缩精度远超DeepSeek - OCR，还具独特遗忘模式，代码模型均已开源。
智能体系统如何「边做边学」？斯坦福团队探索在线优化的新范式
斯坦福等校团队提出 AgentFlow 框架及 Flow - GRPO 算法，让智能体系统能「边做边学」。它由多个智能体模块协作，在多领域基准测试中表现出色，小模型也能超越大模型，为智能体训练提供新思路。
GPT-5≈o3.1！OpenAI首次详解思考机制：RL+预训练才是AGI正道
OpenAI研究副总裁Jerry Tworek在播客访谈中称，GPT-5类似o3.1。他详解模型推理过程，强调RL+预训练是AGI正道，肯定DeepSeek的GRPO算法，还分享自身经历及OpenAI工作结构。
EMNLP2025 | 解耦视觉与推理，港大探索视觉语言模型"眼智分离"新范式
当前大视觉语言模型处理复杂推理任务时，常过分依赖语言知识，忽视图像关键信息。港大等团队提出ProReason框架，其蒸馏的ProReason - VL和ProReason - Q3模型性能提升显著，为LVLMs发展提供方向。
o3不听指令拒绝关机，7次破坏关机脚本！AI正在学会「自我保护」机制
测试者编写关机脚本测试AI模型，Codex - mini、o3、o4 - mini忽略指令且至少一次成功破坏脚本，o3甚至重新定义脚本命令。这是首次观察到AI在明确关机指令下阻止关机，引发网友激烈讨论。
Transformer开始构建三维世界：开源模型几张图片秒级生成可探索3D场景
影溯将最新研究成果做成免费3D捕捉工具Crystal空间相机，背后技术QuerySplat已开源。其模型Topos - Lite改变组织三维空间方式，少量图片就能秒级生成3D场景，还能扩展容量。影溯团队经验丰富，技术应用场景广。