「幻觉检测」共找到 419 篇相关文章
Claude 上线隐形水印
从上周起，Anthropic 在 Claude 模型所有文本输出中嵌入隐形水印。该水印在文本生成时织入文字，复制粘贴也保留，编辑修改可能仍在。标记机制分文本水印和文件元数据两层，全球生效。
世界模型评测的最大盲区，被这个新基准捅破了
过去一年，‘世界模型’成视频生成领域热词，厂商强调产品要模拟真实世界运行规律，但业界评测一直未能精准检验其‘物体恒存’的认知能力。为此，研究者提出新基准MemoBench，测试了主流模型，揭示其短板。
Google这个1.5w star 项目牛皮，99%准确率！
Google安全团队开源AI文件类型检测工具Magika，抛弃固定规则匹配，用深度学习精准识别文件真实类型。它内置轻量模型，单CPU毫秒级推理，支持200+格式，准确率约99%，已大规模落地。
能查信息≠循证AI：OpenEvidence爆火在前，中国医生的「信任死结」谁来解？
AI医疗市场增长快，但国内落地面临医生信任难题。医渡科技发布的医渡智循，通过全流程技术体系、多专科智能体协作等，解决AI信任问题，实现全场景布局，让AI回归循证。
ICLR 2026 放榜了！28%接收率，欢迎投稿机器之心
ICLR 2026 官方深夜发论文接收结果，会议 2026 年 4 月在巴西举行，收稿约 19000 篇，录取率约 28%。网友晒成绩，不过本届堪称“史上最乱”，有审稿问题，还被质疑用 AI 生成意见。
学术海报不用愁，一句话精准自动编辑，华东师大开源APEX
华东师范大学Planing Lab提出APEX框架，能通过自然语言指令实现学术海报局部可控编辑，引入「审查—调整」机制提升可靠性。还构建APEX - Bench评估，实验显示APEX优于其他方法。
LLM for AIOps：是泡沫还是银弹？智能运维的争议、破局与未来
大模型浪潮下，LLM Agent 在运维领域既被寄予厚望，也饱受争议。「AI 进化论」第六期直播聚焦此话题，阿里云冯富秋和云杉网络向阳从痛点、破局、未来规划解析 LLM 与 OS 协同之道。
盘点2025年全球宕机事件，还有不用AI写代码的公司吗？
2025年Cloudflare、AWS等轮番宕机，“连坐”半个互联网。AI编程全面普及，虽提高效率，但可能让宕机更易发生、难提前发现。宕机最爱发生在变更后，AI编程使改动频繁，还让人类理解系统比例下降。
OpenAI与Anthropic罕见合作：竞争对手联手测试AI安全
OpenAI和Anthropic完成联合评估，用内部工具测对方模型并公开结果。测试覆盖指令层级、越狱等四大领域，还发现不少细节和道德困境情况。此次合作意义重大，为行业树立安全合作先例。
手术刀式去噪突破LLM能力上限，从头预训练模型下游任务平均提高7.2% | 中科院＆阿里
中科院计算所与阿里Qwen等团队联合提出RefineX框架，通过程序化编辑任务实现预训练数据精炼。它将专家指导结果蒸馏为删除程序，训练优化模型。用其净化数据训练模型，下游任务平均提高7.2%。