「科学发现」共找到 1248 篇相关文章
都说记忆是Agent标配，但MemSyco发现漏算了一件事
厦门大学与吉林大学的最新研究指出，随着大模型Agent具备长期记忆，虽成为“长期协作者”，但也出现Memory-Induced Sycophancy问题。为此提出MemSyco - Bench评测基准，经实验得出多项发现，指出Agent Memory关键瓶颈转变。
切开Claude大脑，Anthropic称发现了一个类似人类意识的内部空间
Anthropic在Claude模型中发现J空间，其与人类大脑全局工作空间理论相似，承载特殊内容且可干预、参与多步推理等，但模型和人脑有差异，研究也有局限性。
Anthropic 研究发现：仅需少量污染文档即可对 LLM 实施投毒
Anthropic的Alignment Science团队研究大语言模型训练投毒攻击，实验发现仅250条恶意样本就能植入“后门”，且模型越大攻击越易，还对微调数据集实验，引发讨论。
他们想用AI发现不存在的物理学，然后用它去半人马座
美国初创公司 Physical Superintelligence（PSI），计划用 AI 加速物理发现。其核心平台 Emmy 能拆解研究问题。商业应用从 AI 数据中心切入，还参与费米探索者星际探测任务，目标平衡学术与商业。
AI是否足够的中立？宾夕法尼亚大学发现AI训练数据中的隐形偏见
宾夕法尼亚州立大学和俄勒冈州立大学研究发现，普通用户难察觉AI训练数据中种族与情绪绑定的偏见，直到AI性能表现出明显偏见才会警觉。不同族裔对偏见感知有差异，黑人更易识别。
AI能否独立开展科研？ASI-Bench为科学自主性建立评测标尺
ASI-Bench是衡量AI系统科学自主性的基准测试，由多机构联合开发。它能测试AI通用智能、创新性和执行力，通过信息梯度设计，让模型在不同指导量下完成科研任务，结果显示当前AI离自主科研有明显距离。
刚刚，DeepMind通用科学智能体AlphaEvolve突破数学极限，陶哲轩合作参与
DeepMind发布革命性进化编码智能体AlphaEvolve，由LLMs驱动，可演化代码库、发现和优化算法。它结合LLM创造力与自动化评估，减少幻觉，在多领域应用前景大，还与陶哲轩合作探索数学应用。
只要科学任务能打分，AI就能实现SOTA结果 | 谷歌最新论文
谷歌最新论文提出，只要科学任务可评分，用大模型+树搜索，让AI大海捞针，就能找到超越人类专家的方法实现SOTA结果。他们开发的AI系统在多领域发明新方法，都达SOTA水平。
AlphaEvolve：陶哲轩背书的知识发现 Agent，AI 正进入自我进化范式
Google今年5月发布的AI系统AlphaEvolve，结合Gemini模型与evaluator，能发现新算法。它源于FunSearch，可多领域应用，运行机制类似自然进化，其关键组件evaluator对其发展很重要，也标志AI进入自我改进范式。
Demis Hassabis：AGI 还缺什么，智能体到底行不行，下一个科学突破长什么样
Google DeepMind CEO Demis Hassabis 做客直播，探讨当前 AI 范式距 AGI 差距、智能体水平、科学突破模式等话题。指出当前范式或需关键突破，记忆方案待优化，AlphaGo 技术复活，还给出创业建议。