「幻觉率」共找到 491 篇相关文章
ACL2025 | 代码助手火了，但安全吗？所有模型评估结果都很扎心
近期，GitHub Copilot、ChatGPT等AI代码生成工具爆火，效率显著提升，但代码安全性存疑。北大团队用CoV-Eval评测20款主流大模型，结果不佳，论文还给出优化方向，呼吁代码上线前严格测试。
RAG系统设计：揭秘语义搜索被低估的核心价值与KG驱动的架构选型策略
在AICon大会上，Hugging Face的尹一峰探讨基于语义搜索的RAG系统重要性，揭示其被低估原因，分析本质与作用，分享设计高效架构方法，还讨论KG驱动的RAG系统及范式选择。
AI Coding 之后，如何让 Agent 进入企业研发全链路？得物推荐的 Harness 实践
得物资深技术专家白忠魏在AICon大会分享实践。团队目标是将AI Coding扩展为全链路方法，介绍了PDCA循环、全链路前提、七阶段护栏等探索，还提及用知识体系和混合Agent架构解决问题，已有阶段性成果。
诺奖得主用AI凭空造出基因剪刀，比进化几十亿年的那把还准
7月16日，《Nature》刊出消息，诺奖得主Jennifer Doudna团队用AI造出自然界不存在的CRISPR酶，改了30%的序列仍能用，比天然版本更精准。创业公司Profluent也生成全新Cas9，脱靶编辑率大幅降低。
警惕全球“最大”芯片IPO的暴雷风险
Cerebras 5月14日上市成2026年迄今全球最大IPO。其核心产品WSE工程有突破，但良率计算方式与传统不同。训练未成功，推理找到新机会。与OpenAI超200亿美元合同背后是股权换订单，财务数据也有隐忧，上市后存诸多疑问。
AI PPT，这次是真不用返工了
过去AI做PPT虽快但有“幻觉数据”和“拼凑式模板”问题，被认为是高估需求。如今讯飞智文Vision Agent出现，能生成专业PPT，还解决了美观、内容等问题，将AI PPT带入2.0阶段。
Harness Engineering：AI 能在真正"出事会炸"的后端系统里写代码吗？
文章围绕AI能否在后端系统写代码展开，以腾讯CDN LEGO项目为例，介绍了项目背景与挑战，通过nonstop项目探测AI编码能力，分析AI Coding易翻车的问题及根因，构建Harness Engineering架构并实践，最终效率提升20%。
Notion Custom Agents复盘：三年重写5次，Notion 历史上最成功的新功能之一
Notion 的 AI 工程负责人 Sarah Sachs 和技术负责人 Simon Last 在采访中分享 Agent 探索思考。Custom Agents 是 Notion 历史上转化率高的新功能，开发三年重写 5 次。他们还谈及产品路线、模型评估、技术方向等内容。
不要接盘！七巨头暗套84亿，20万亿AI泡沫濒临崩塌
穆迪报告揭示AI发展两条路径，要么生产率狂飙，失业率降至3.8%；要么泡沫破裂，460万人失业。2026年1月裁员数据似在验证后者。当前AI行业融资循环、巨头抛售股票，股市被高估，泡沫濒临破裂。
Anthropic 发布最新劳动市场影响报告：AI 已拿下 75% 的程序员工作、且能做的还有很多
Anthropic发布报告，用Claude真实使用数据度量AI对劳动市场的影响。提出‘观测暴露度’指标，显示AI远未达理论上限，高暴露职业集中在白领，目前失业率未升，但年轻人入职放缓。