「结构化信息提取」共找到 1170 篇相关文章
省下1.25倍算力!Kimi这篇论文,可能改写所有大模型的训练方式
大模型层数增多时,残差连接存在PreNorm稀释问题,导致后面层贡献被稀释。Kimi论文提出Attention Residuals方案,还给出工程解法Block AttnRes,实验显示能省算力且提升效果。
DeepSeek、GPT、Qwen,所有大模型架构图都有,Karpathy:宝藏画廊!
大模型赛道热闹,架构创新多,理解困难且缺清晰架构图。AI 研究者 Sebastian Raschka 绘制主流大模型结构,整理成在线图谱「LLM Architecture Gallery」,方便研究者查阅对比。
CVPR'26 | 以机器人为中心的ToM推理框架,从心智推理到决策行动
吉林大学、台湾大学和微软亚洲研究院联合提出MindPower Benchmark,构建以机器人为中心的ToM推理框架,统一建模环境感知、心智推理等,还构建数据集和评估指标。引入Mind - Reward强化优化,提升ToM决策与动作生成性能。
「熟悉的陌生人」才是「好老师」?复旦提出简单指标,找出推理蒸馏中真正有教学价值的数据
复旦大学和上海人工智能实验室研究者提出 Rank - Surprisal Ratio (RSR) 度量方法,综合考虑样本信息量与对齐程度,在蒸馏实验中与学生模型后训练性能相关性高,可用于筛选推理轨迹和选择教师模型。
DeepSeek-OCR 2 架构创新性能暴涨 3.73%
DeepSeek-OCR 2核心技术突破集中于DeepEncoder V2架构创新与端到端优化。如视觉Tokenizer低参高效压缩Token,LLM式视觉编码器用双流注意力驱动因果建模等,还采用三级训练流水线提升效率。
LLM越狱攻击的威胁被系统性高估? 基于分解式评分的「越狱评估新范式」出炉
目前LLM越狱攻击评估常依赖间接指标或LLM宏观判断,易有偏差。德国、中国等研究团队提出JADES框架,用分解式评分机制,揭示过去高估越狱攻击威胁,为评估建新标准。
Gemini CLI 新升级:深度集成 VS Code,终于不用在终端和编辑器之间反复横跳了
Google发布Gemini CLI重要更新,实现与VS Code深度集成,从架构层面解决AI编程助手的上下文感知问题。新版本有工作区上下文感知和原生差异对比界面两个核心功能,还给出部署要求。
每天熬到凌晨、没有人规划、全靠“能干就干”!离职员工爆料:OpenAI Codex 就是这样“卷”出来的
《连线》称 OpenAI 研究员 Jason Wei 等将加盟 Meta。离职员工 Calvin French - Owen 分享在 OpenAI 经历,揭秘其自下而上研究文化、扩张问题、成本结构等,还讲述 Codex 开发情况。
AI Agent做PPT卷疯了,最强选手被挖掘出来了
2025年是AI Agent元年,做PPT成成果显著领域。Agent能自主完成PPT全流程,解决此前导出编辑难题。文章对比GenSpark、天工Agent等产品在不同场景做PPT的表现,为用户选择提供参考。
Google 2025年6月核心算法更新及应对,以及百度5月7月算法对比
Google发布2025年6月核心算法更新,预计3周完成。此次未透露方向,暂无针对性策略。还介绍了核心算法更新概念、近期更新情况、应对方法,对比了与企鹅算法差异,此外提及百度5月和7月算法对比及MCP协议。