「包幻觉攻击」共找到 509 篇相关文章
DeepSeek识图模式是个新模型？！一手实测在此（没错我被灰度到了）
作者喜提DeepSeek识图模式灰度测试，实测发现其非思考模式速度快，推理有幻觉；思考模式推理慢且冗长。实用功能如OCR、复原HTML较靠谱，但色盲测试偶翻车。该模式或用独立视觉模型，且多模态进展超预期。
如何让AI帮你做前端自动化测试？我们这样落地了
本文介绍阿里基于AI的UI自动化测试框架在专有云质量保障的实践。框架用开源browser - use等工具，采用自然语言驱动用例、动态元素定位等机制，还应对了大模型幻觉等挑战，也提及构建企业级数据分析Agent方案。
LLM 驱动的 AI Agent通信：协议、安全风险与防御对策
论文围绕智能体通信的协议、安全风险及防御对策展开探讨。介绍兴起与重要性、定义分类、解析多种协议，分析不同交互的安全风险，提出防御对策，还以MCP和A2A为例做攻击实验，给出未来研究方向。
马斯克抢先谷歌一步放大招，Grok 4.1登顶LMArena，创意写作直逼GPT-5.1
当谷歌Gemini 3将上线消息传得沸沸扬扬时，马斯克xAI更快一步上线最新大模型Grok 4.1，响应速率提升、幻觉率下降。它有两个“形态”，免费开放且有APP版。在LMArena测试中成绩亮眼，多方面能力提升。
这大概是我见过最通俗易懂的AI发展历程科普详文了
文章从历史时间线出发，介绍AI诞生、发展历程，涉及细分技术模块。结合案例说明AI在不同阶段的应用，如早期机器翻译、垃圾邮件过滤。还探讨AI大模型、智能体等概念，分析调优方法和‘幻觉’问题，展望其未来前景。
网民票选AI王者，LMArena一夜变17亿美元独角兽！
LMArena原是校园开源小项目，从2023年起步，如今估值达17亿美元。其Arena模式让网友盲投选AI，Elo评分系统算排名。虽有众包投票易操纵等争议，但已成行业标杆，还将为大厂提供付费评估服务。
王小川：医疗行业对大模型有三大刚性要求，但通用模型一条都不达标
5月22日百川智能展示医疗大模型Baichuan - M4与AI家庭医生「百小医」。王小川指出通用大模型用于医疗有问题，医疗对大模型有低幻觉、强循证、会提问的刚性要求，而通用模型不达标。Baichuan - M4表现出色，百小医也有独特定位和优势，且与三家顶尖医院合作成果显著。
ACL'25 | 多智能体叛变进行中？首个多智能体安全守卫G-Safeguard亮相！
随着基于LLM的多智能体系统崛起，其安全隐患凸显。中国科学技术大学等机构提出G - Safeguard安全防护框架，它基于图神经网络，通过构建多智能体话语图等方式，能有效抑制恶意信息传播，有强大防御和泛化能力。
上科大何旭明团队新作：克服简单样本偏置，让多模态模型学会「难题优先」
上海科技大学何旭明团队针对多模态模型幻觉问题，提出DA-DPO框架。该方法不依赖额外人工标注，通过动态调整样本权重，缓解简单样本偏置，在降低幻觉率同时提升综合能力，具成本效益。
20美元，扒掉AI安全底裤！智能体2小时，攻破160亿美元巨头
红队安全创业公司CodeWall的AI智能体，花20美元Token费、运行2小时，自主选麦肯锡为目标，攻破其「数字大脑」Lilli，获4650万条聊天记录等读写权限，暴露AI安全隐患。