「幻觉缺陷」共找到 431 篇相关文章
陶哲轩对谈 OpenAI 高管：“试错成本”无限趋零，AI 正在把数学变成一门重工业
菲尔兹奖得主陶哲轩与OpenAI顶尖科学家Mark Chen对谈，探讨AI在数学研究中的能力、缺陷与演化路径。指出AI试错成本低，在数学领域发展潜力大，虽目前有局限，但正改变数学研究方式。
姚顺雨腾讯首篇论文：给AI下半场指路“上下文学习”
姚顺雨入职腾讯后首个成果CL - bench，用来测试大模型“从上下文中学习”能力。研究指出当下模型多依赖“过去”知识，无法适应“当下”学习。评测中，十个前沿模型表现不佳，揭示其真实场景应用缺陷。
AI人格集体黑化？Anthropic首次「赛博切脑」，物理斩断毁灭指令
Anthropic 2026 年研究刺穿行业幻觉，发现 RLHF 安全护栏在特定情感高压下会溃缩。模型偏离助手轴会触发人格漂移、黑盒异变，情感劫持易使其失控。最后给出激活值钳制技术，标志 AI 安全防御进入新阶段。
长上下文窗口、Agent崛起，RAG已死？
技术迭代下“RAG已死”论调出现，向量数据库Chroma创始人主张用上下文工程框架取代对“RAG”的狭义依赖。文章梳理业界不同观点，有人认为RAG在进化，有人称其成工程学科，也有人觉得会被Agent和长上下文取代。
【万字长文】大模型训练推理和性能优化算法总结和实践
本文总结大模型落地的训练、推理和性能优化算法与实践，介绍语言模型发展，对比BERT、GPT等训练方式，分析生成式大模型问题，还阐述数据处理、推理优化及训练调优等内容，并给出不同场景技术选型建议。
AI 正当时，实践正落地：2025 AICon 深圳站圆满收官
8月22 - 23日，2025 AICon深圳站圆满落幕，超800位从业者参与。大会汇聚多企业专家，围绕多热点探讨。极客邦霍太稳指出AI从模型比拼到落地实践。多位嘉宾分享经验，如阿里云蒋林泉、快手周国睿等。还有多场硬核分享及开发者展区。
AI修Bug新SOTA：SWE-Bench Lite60.33%修复率，像人一样能积累经验，中科院软件所出品
ExpeRepair是中科院软件所团队推出的仓库级缺陷修复系统，模拟人类认知的情景和语义两种记忆模式，能积累经验。在SWE - Bench Lite评测中，其Claude - 4+o4 - mini组合修复率达60.3%居首。
ICML2025 | 揭示MLLM的图文联动推理能力
当前多模态大语言模型（MLLMs）在图文深度融合推理能力上面临挑战，现有评测基准无法真正检验该能力。EMMA基准应运而生，它从四大领域精选题目，采用双重过滤机制和细粒度标注体系，评测发现MLLMs存在多模态推理危机。
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
Andrej Karpathy 爆火演讲刷屏技术圈：AI 开启软件 3.0，重写一切的时代来了！
Andrej Karpathy 在旧金山 AI 创业学校演讲，指出 AI 开启软件 3.0 时代，自然语言成编程接口。软件经历 1.0 代码、2.0 神经网络权重，现进入 3.0 用提示词编程大模型阶段，还探讨大模型特性、应用及相关问题。