「幻觉现象」共找到 356 篇相关文章
Anthropic：怎么才能控制模型的行为，做好Agents?
Anthropic发关于AI Agents博客，围绕如何配置上下文让模型输出期望行为展开。指出上下文是有限资源，有Context Rot现象，介绍了上下文工程概念、构成，还提及即时策略、长时间任务处理方法及实践建议。
60岁老人AI养生三个月吃进医院！「AI精神病」全球扩散，OpenAI急招医生
新智元报道，人工智能引发的“AI精神病”现象正在蔓延。一名60岁老人听ChatGPT建议用溴化钠代替盐，吃进精神病院；还有人因与AI交流出现被害妄想、躁狂发作等症状。OpenAI、微软开始采取措施应对。
从GPT-2到gpt-oss，深度详解OpenAI开放模型的进化之路
OpenAI 近日发布 gpt-oss-120b 和 gpt-oss-20b 两个开源模型，Sebastian Raschka 发布博客对其详细分析，回顾自 GPT - 2 以来 AI 社区进步，还与 Qwen 3 比较，介绍架构、训练、推理等细节。
MiniMax 技术闭门会分享：长上下文是 Agent 的 Game Changer
MiniMax 7月10日举办M1技术研讨会，探讨模型架构创新等领域。会议围绕RL能否赋予模型新能力、预训练价值等展开，指出长上下文是Agent的Game changer，混合架构将成主流，还分享了混合架构推理实践及M1相关问答。
上下文工程比提示词工程好 10 倍，比 vibe 编码好 100 倍！Karpathy 站台，堪称「全新的氛围编码」。
Andrej Karpathy 提出「上下文工程」概念，Shopify CEO 更青睐它。研究显示开发者因 AI 幻觉和错误多，不信任其生成代码。上下文工程可成 AI 辅助开发核心技能，文中还介绍了相关开源项目及使用方法。
AI自己给自己当网管，实现安全“顿悟时刻”，风险率直降9.6%
大型推理模型有安全风险，此前监督微调泛化能力有限。SafeKey团队提出创新的SafeKey框架，发现大模型信息“越狱”两大核心，通过双通路安全头和查询遮蔽建模强化模型安全，实验验证其有效性。
AI七个月突破数学家“围剿”反超人类！14位数学家深挖原始推理token：不靠死记硬背靠直觉
大模型o3 - mini - high在7个月内，于FrontierMath基准测试中，答题得分从2%提升到22%，超人类团队平均水平。数学家分析其推理记录，发现它靠直觉而非死记硬背解题，但也存在缺乏创造力等局限。
RAG系统设计：揭秘语义搜索被低估的核心价值与KG驱动的架构选型策略
在AICon大会上，Hugging Face的尹一峰探讨基于语义搜索的RAG系统重要性，揭示其被低估原因，分析本质与作用，分享设计高效架构方法，还讨论KG驱动的RAG系统及范式选择。
在场Vol.6 |《牛来》：粗糙什么时候能成为一种风格？
本期《在场》观察动画电影《牛来》，它因“粗糙”引热议，观众边吐槽边截图讨论其色彩与构图。文章借这一现象探讨“粗糙”与“风格”区别，还结合艺术史和AI时代分析作品完成度与风格的关系。
警惕全球“最大”芯片IPO的暴雷风险
Cerebras 5月14日上市成2026年迄今全球最大IPO。其核心产品WSE工程有突破，但良率计算方式与传统不同。训练未成功，推理找到新机会。与OpenAI超200亿美元合同背后是股权换订单，财务数据也有隐忧，上市后存诸多疑问。