「幻觉检测」共找到 418 篇相关文章
刚刚，为对抗哥大退学生开发的AI作弊器，哥大学生造了个AI照妖镜
Cluely是款备受争议的AI桌面助手，能替人参会。哥伦比亚大学学生开发反Cluely工具Truely，检测通话是否为真人。其原理是检测对方设备PID，不过使用较繁琐。同时，Cluely起诉公布其提示词的人。
88天登录193次！顶级证据+循证医学，让500万中国医生拥有「神助攻」
国内医生面临高负荷工作与医学知识快速更新的挑战，通用大模型在医学场景中存在高幻觉率问题。阿里健康推出医学AI产品「氢离子」，具备低幻觉、高循证特点，有四层循证架构，还与多方合作构建数据壁垒。
开源 3 天斩获 2.5K Star！这个去AI味写作 SKILL，比市面上的AI检测器更懂写作！
开源项目no-ai-slop上线3天获2.5K Star，它是去AI味写作辅助工具。不只是检测，还能改稿，会识别、去除AI套路且保留风格。提供改稿与检测模式，有20+种套路示例，还配自检表。
破解遥感目标的形状与尺度难题，PKINet二代推理提速近4倍！
PKINet - v2是改进的遥感目标检测模型，能处理复杂形状和尺度变化问题。它在PKINet基础上升级，统一条带与方形卷积，部署时折叠为单大核。在多数据集上精度和速度提升，可服务多领域，但对特殊目标仍有检测问题。
Genie 3，让幻觉持续成为现实
Google最新发布的Genie 3能从文本生成交互式世界，实现24fps实时交互，分钟级一致性，720p分辨率。它取长补短，有出色记忆能力，物理表现自然，还能让智能体完成任务。不过目前是有限预览，有不足。
一分钟的奇迹与幻觉：实测世界模型Happy Oyster
4月16日阿里发布世界模型Happy Oyster，支持多模态输入与音视频联合生成。实测显示，它在场景构建、渲染上有优势，可替代部分传统引擎工作，但存在一致性不足问题，现阶段更适合改造游戏开发流程。
提示词注入攻击的检测和数据集介绍
提示词注入攻击是攻击者操纵AI系统的技术，OWASP将其列为2025年大模型应用风险首位。Meta发布测试数据集，还有多个工具和数据集可用于评估。防护可用AI防火墙，Meta开源小模型。还提到安全性与实用性权衡。
相信大模型成本会下降，才是业内最大的幻觉
很多AI创业者认为模型降价能降成本、改善营收。但文章指出，成本下降仅针对老旧模型，最好模型成本大致相同，且模型token消耗激增。还探讨了AI创业商业模式，如按使用量计费、建立高切换成本、垂直整合等。
最低 306KB，这款低延迟语音检测神器太绝了！
语音交互中，VAD至关重要。新开源的TEN VAD能精准识别语音起止，是替代WebRTC VAD和Silero VAD的优选。它低延迟、高准确率、极致轻量，已被Kaldi集成，还能跨平台部署，使用方便。
210亿美元的幻觉？奥特曼投了一家核能初创
AI热潮下，Oklo核能初创靠概念市值达210亿美元，投资人是奥特曼；而从SpaceX离职的工程师创立Quilter，让AI画电路板，几分钟完成工程师三天工作，二者代表造梦与造物两种姿态。