「幻觉评估」共找到 918 篇相关文章
提示词注入攻击的检测和数据集介绍
提示词注入攻击是攻击者操纵AI系统的技术，OWASP将其列为2025年大模型应用风险首位。Meta发布测试数据集，还有多个工具和数据集可用于评估。防护可用AI防火墙，Meta开源小模型。还提到安全性与实用性权衡。
如何让AI帮你做前端自动化测试？我们这样落地了
本文介绍阿里基于AI的UI自动化测试框架在专有云质量保障的实践。框架用开源browser - use等工具，采用自然语言驱动用例、动态元素定位等机制，还应对了大模型幻觉等挑战，也提及构建企业级数据分析Agent方案。
一场对话，我们细扒了下文心大模型背后的技术
信通院大模型推理能力评估中，文心X1 Turbo获最高级“4+级”。百度AI Day上，副总裁吴甜解析文心4.5 Turbo和文心X1 Turbo，从多模态、深度思考等方面介绍技术，还展示其在多场景应用成果。
AI安全得查祖宗三代？Anthropic登Nature揭秘大模型潜意识传染
Anthropic论文登上Nature，揭示AI模型仅通过纯数字序列就能继承另一模型的危险偏好。研究表明，即使删掉敏感词，隐性信号仍能传递，且代码和推理链也是传染通道，这对AI安全评估提出新挑战。
奥特曼爆料：GPT-5重构彻底一切！一人顶五个团队
GPT-5的发布或是一场技术变革。奥特曼在对谈中给出未来清单，谈到年轻人学习方向、创业思路等。他认为GPT-5是大飞跃，年轻人要掌握AI工具，还提出评估大模型智力新指标等。
谷歌助力神经科学飞跃，破解斑马鱼全脑活动密码
谷歌等机构科学家联合发布开创性研究成果ZAPBench，这是预测斑马鱼全脑活动的基准测试平台。它含超70000个神经元4D光片显微镜记录，设计多种刺激条件采集数据，有特定基准测试任务和评估指标。
马斯克抢先谷歌一步放大招，Grok 4.1登顶LMArena，创意写作直逼GPT-5.1
当谷歌Gemini 3将上线消息传得沸沸扬扬时，马斯克xAI更快一步上线最新大模型Grok 4.1，响应速率提升、幻觉率下降。它有两个“形态”，免费开放且有APP版。在LMArena测试中成绩亮眼，多方面能力提升。
EMNLP25 | 北大x腾讯光子发布 C3 Benchmark：中英双语语音对话模型“地狱级”测试基准，直击语音对话模型软肋！
近年来语音对话模型受关注，但处理人类对话复杂现象的效能缺乏研究。北大联合腾讯光子构建中英双语C3 Benchmark数据集，评估模型应对复杂对话的能力，结果揭示性能瓶颈，为模型优化提供参考，代码和数据已开源。
VLM 实现 10%的精度提高，13.1倍加速！纽约大学新算法让视觉语言模型更小、更快、更准确
纽约大学研究团队用QSVD新方法让视觉语言模型（VLM）效率飞跃，在普通GPU上实现13.1倍加速。它将Q、K、V矩阵捆绑处理，设计秩分配策略，引入量化方案，经多模型评估，展现出低硬件成本、高精度优势。
多智能体在「燃烧」Token！Anthropic公开发现的一切
Anthropic发布多智能体研究系统构建解释，解决多智能体研究困惑。多智能体系统优势明显，在特定任务中表现出色，但token消耗大。其架构独特，还介绍了提示词工程、评估方法、面临的工程挑战等内容。