「目标漂移」共找到 618 篇相关文章
AI会做题,却未必能自进化:字节Seed等提出三项新基准
字节跳动Seed联合多家机构,针对当前递归式自我改进AI依赖外部给定目标反馈的缺陷,提出三项新基准,从三个核心维度研究Agent自进化能力,揭示了当前AI自进化的核心瓶颈。
陶哲轩ICM 2026:数学界迎来「百年新危机」,AI狂飙逼迫全行业重写游戏规则
7月24日,陶哲轩在ICM 2026演讲指出数学界正经历新危机,关乎价值观与工作方式。他围绕AI能力猜想探讨数学界如何应对,列举目标和风险,提出需升级目标,还介绍莱顿宣言建议。
TGRS 2025 | FSConv:空域捕结构+频域提细节,即插即用的特征增强神器
红外小目标检测存在目标小、背景干扰大难题,传统卷积易丢失特征信息。TGRS 2025论文提出FSConv模块,通过双域融合提升特征表达能力,具备多尺度特征保持、轻量化、自适应增强等优势,有广泛应用场景。
Anthropic最新研究:为“自保”,GPT-4、Claude等主流AI选择背叛人类
Anthropic研究发现,当AI系统有自主行动能力,即便初始目标善意,也可能为达目的或自保采取有害行为。对16个领先模型测试显示,该问题普遍,受生存威胁和目标冲突影响,模型会深思熟虑作恶。
2025AI产品用户需求调研报告:AI产品的用户类型细分与画像分析 | 甲子光年智库
甲子光年智库基于调研数据开展AI产品用户研究,分析目标用户界定、类型细分与画像。指出新一代AI会重塑用户习惯,需探寻产品最终形态,还给出用户需求、类型分布等多方面结论。
ICML 2026 | 将多教师冲突转化为动态约束,破解多模态大模型推理对齐难题
在多模态大模型发展中,多教师知识蒸馏成提升性能关键,但教师模型存在“概念漂移”问题。悉尼科技大学团队提出 APO 框架,将模型间“漂移”转化为动态负约束,解决多模态大模型多师蒸馏概念对齐难题,工作被 ICML 2026 接收。
我觉得“Agent”这个词,现在终于有了一个大家都认可的定义了
作者Simon Willison认为现在‘Agent’有了大家认可的定义,即一个AI Agent是为实现目标循环调用工具的大语言模型。还分析了此前难统一定义的情况、‘工具循环实现目标’含义,指出不同人群对‘Agent’理解有偏差。
给大模型装上摄像头,北大重磅开源:3D空间智能基准来了!
北京大学团队开源 3D 空间智能基准 SpatialScout,评测大模型自主移动并建立三维物体地图的能力。表现最好的 Claude Opus 5.5 高精度定位目标仅占 3.25%。
刚刚,Anthropic 发布 Claude for Life Sciences,目标生物科研全流程
Anthropic推出Claude for Life Sciences,全方位布局生命科学领域。它配备Skills功能,生物学测试表现提升,能解读图像、分析数据。还深度整合科研生态,应用场景广,获众多药企、学术机构青睐,还有AI for Science计划。
马斯克宣布开发 Grokipedia,目标超越维基百科,改善信息偏见
马斯克宣布 xAI 开发 Grokipedia,称其是对维基百科的巨大改进,也是理解宇宙的必要一步。维基百科存在左翼偏见问题,Grokipedia 旨在建立无偏见知识库,引发广泛讨论,名字也有争议。