「线程推理模型」共找到 8154 篇相关文章
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用旋转位置编码 (RoPE) 的现代Transformer模型中，注意力机制的查询 (Q) 和键 (K) 表示存在集中极大值，而值 (V) 表示无此模式。研究通过实验揭示其与上下文知识理解的关键联系。
顶尖模型离“科学家”还差得远？AI4S亟待迈向2.0时代
《Nature》研究指出，过度依赖现有深度学习模型或阻碍创新。上海 AI 实验室周伯文提出，应推动科学智能从 AI4S 迈向 AGI4S，还介绍“智者”SAGE 架构、“书生”模型及平台等探索成果，并邀同行共拓蓝图。
首个多模态工业信号基座模型FISHER，权重已开源，来自清华&上交等
清华、上交等团队联合发布首个多模态工业信号基座模型 FISHER，用搭积木法对异质工业信号统一建模。技术报告和权重已开源，还提出 RMIS 基准评估性能，实验显示其泛化能力强。
MIT发布自适应语言模型！新任务，自生成远超「GPT-4.1合成训练数据」
麻省理工学院提出自适应语言模型框架SEAL，让大模型生成微调数据和更新指令适应新任务。实验显示，其生成的合成数据微调效果超GPT - 4.1，在少样本学习和知识整合任务表现优异。
Reasoning模型在RL下的探索欲望急速下降问题：探索熵机制
论文研究发现大模型经强化学习训练解题时，会出现模型探索欲望急速下降的熵崩溃现象，如训练初期策略熵断崖式下跌。对此进行规律分析、追根溯源，提出破解方法，研究对AI训练范式变革有重要意义。
Hugging Face开源nanoVLM，750行代码可训练视觉语言模型，简单到令人发指！
Hugging Face开源全新视觉语言模型框架nanoVLM，仅750行代码就能从零训练高效能VLM模型。它在单张H100 GPU训练6小时后，在MMStar数据集准确率达35.3%，且能在免费Google Colab跑。
全国首部AI大模型私有化部署标准，公开征集起草单位和个人！
近期AI领域政策频出，企业对人工智能应用需求攀升，倾向私有化部署，但行业存在技术错配等问题。国内首部针对AI大模型私有化部署的标准《人工智能大模型私有化部署技术实施与评价指南》立项，正征集起草单位和个人。
VLA大模型做长任务总断片？同济KC-VLA用关键帧链给治好了
VLA大模型记性是短板，处理非马尔可夫任务常束手无策。同济大学等提出KC - VLA框架，用关键帧链接赋予机器人全局时间感知能力，还构建了长时序记忆依赖基准测试，实验显示其性能优越。
大模型狙击黑产：挚文集团社交生态攻防实战全揭秘
挚文集团生态技术负责人李波在AICon大会分享大模型在社交生态落地实践。介绍集团生态问题，提出构建治理框架，还阐述多模态大模型研发方案、细粒度用户画像建设及审核侧应用，最后总结现状并展望未来。
一个模型装下整个物种树！伯克利GPN-Star斩获基因预测双料冠军
加州大学伯克利分校等机构推出基因组语言模型GPN - Star，可将全基因组比对和物种树信息装进大模型。它克服传统GLMs短板，实现三点升级，在多基准测试表现出色，是强大的全基因组变异解读框架。