「幻觉检测」共找到 429 篇相关文章
一个模型千万个灵魂！Anthropic找到了防止AI陷入疯狂的防线
Anthropic和牛津大学研究发现，大模型的AI助理角色易在长对话中漂移崩塌，致其陷入幻觉。研究解析助理轴，揭示模型人格定位，还提出激活上限技术，能在保能力的同时降低有害回复率。
手握30亿、被蚂蚁狂挖人，转型被骂惨的王小川，真的翻身了？
在大模型竞争中，2023 年成立的百川战略收缩聚焦医疗，起初内外存疑。2025 年，AI 医疗技术与应用进展显著，今年初大厂入局。百川如今开源 Baichuan - M3 模型，王小川认为医疗已入应用阶段、多模态非主战场，且国内 To C 更好。
医生版 ChatGPT 3 年估值 60 亿美金，被低估的 AI 硬件新玩法：相框
OpenEvidence被称为医学领域的Google和医生版ChatGPT，成立3年估值达60亿美金。它用高质量数据训练小而专模型，有“无幻觉”机制，直接面向医生推广，产品进化为临床决策助手，收入来自制药广告。
AI 产品定价指南：按量定价的卡点到底是什么？
本文编译 a16z 与 Scott Woody 访谈，探讨 AI 改变软件定价逻辑及企业应对策略，还补充定价专家 Madhavan Ramanujam 关于 AI 产品定价四象限观点，指出按量定价的难点、适用模式及企业转型要点等。
OpenAI发布ChatGPT世代首个开源模型gpt-oss，4060Ti都能跑得动。
8月6日晚，OpenAI发布ChatGPT世代首个开源模型GPT - oss，有120B和20B两款。模型原生支持4 - bit量化，性能损失小，低配置显卡也能运行。跑分表现不错，还介绍了使用途径，虽有不足但改变开源社区格局。
AI全面爆发后，企业正在悄悄争夺知识库入口｜甲子光年
AI幻觉问题让企业意识到通用模型在专业场景的局限，需构建企业级知识库。腾讯在峰会上宣布升级知识库产品，乐享知识库通过AI赋能解决数据整合、更新等痛点，未来知识库将与业务深度联动。
Relink：为GraphRAG动态构建证据图
大语言模型在开放域问答中有‘幻觉’问题，GraphRAG结合LLM与知识图谱缓解此问题，但现有方法有缺陷。作者提出‘推理并构建’新范式和Relink框架，实验显示其性能领先，对RAG系统设计有启示。
GPT正面对决Claude！OpenAI竟没全赢，AI安全「极限大测」真相曝光
OpenAI和Anthropic罕见合作，测试双方模型在幻觉等四大安全方面的表现。这场合作是AI安全的里程碑，百万用户每天的互动推动安全边界扩展。文中详细对比了GPT和Claude模型在各安全测试中的表现。
开源大模型实战：GPT-OSS本地部署与全面测评
2025年8月5日，OpenAI发布GPT-OSS-120B和GPT-OSS-20B开放轻量级语言模型，采用Apache 2.0开源许可证。文章介绍通过Ollama本地部署GPT-OSS -20B模型的方法，并对其进行AI幻觉、算法、SQL、数学题等测试。
Agent一直在行动，任务为何没有进展？PoS识别并打破Belief Trapping
智能体执行长程任务时常出现持续行动却无实质进展的「信念受困」问题，南开大学联合阿里云等机构提出PoS方法，通过显式维护信念状态、检测受困并针对性恢复，在多基准任务中显著提升效果，代码已开源。