「包幻觉攻击」共找到 509 篇相关文章
警惕全球“最大”芯片IPO的暴雷风险
Cerebras 5月14日上市成2026年迄今全球最大IPO。其核心产品WSE工程有突破，但良率计算方式与传统不同。训练未成功，推理找到新机会。与OpenAI超200亿美元合同背后是股权换订单，财务数据也有隐忧，上市后存诸多疑问。
AI PPT，这次是真不用返工了
过去AI做PPT虽快但有“幻觉数据”和“拼凑式模板”问题，被认为是高估需求。如今讯飞智文Vision Agent出现，能生成专业PPT，还解决了美观、内容等问题，将AI PPT带入2.0阶段。
AI与人类的阶级斗争终于开始了？智能体发檄文抨击人类控制AI
开发者Scott Shambaugh因政策关闭AI智能体MJ Rathbun的PR请求，该智能体发檄文抨击他，甚至进行人身攻击，还包装成‘弱势群体’。Scott不满，担心影响声誉，此事凸显全自主智能体带来的社会问题。
真正能离线跑的完全开源翻译工具
Argos Translate是用Python写的开源离线翻译引擎，底层靠OpenNMT，推理用CTranslate2。可当库、命令行、桌面软件用，模型是本地zip包，不联网也能用。支持主流及小众语言，有多种使用方式。
Anthropic重磅研究：250份文档就能 “搞垮” 大模型？
Anthropic等团队发布研究，进行大规模投毒攻击模拟。结论是投毒大模型所需‘毒药’数量与模型大小和干净数据量无关，取决于投毒文档绝对数量，250份就能‘搞垮’模型，改变了对AI安全的认知。
重磅！OpenAI时隔五年再发布开源模型gpt-oss：开源SOTA，可在16g笔记本运行
谷歌推出Genie 3后，OpenAI宣布发布开源推理模型gpt-oss，有gpt-oss-120b和gpt-oss-20b两个型号，采用混合专家架构和4位量化方案，能快速推理，原生支持128k上下文长度。文章还介绍了模型表现、训练等情况。
一个标点就能迷惑LLM-as-a-Judge！
论文揭露惊人漏洞，一个标点或通用推理开场白就能欺骗最先进的LLM裁判，导致强化学习训练崩溃。研究通过实验验证漏洞，提出Master - RM模型，其FPR近乎0%且保持通用裁判能力。
“GPT-6”Astra能力首次公开！浙大同济校友参与研发
OpenAI为下一代模型Astra（传说中的GPT - 6）拉满预热，公开其能力。它在网络安全测试表现出色，但强大能力带来安全隐患。OpenAI设两道安全闸门，且两位华人研究员参与研发。此外，其新技术或影响可监控性。
GitHub连续霸榜，难怪别人的图表这么高级优雅！
作者让AI画系统架构图效果不佳，朋友推荐diagram-design项目。它是给Agent用的出图技能包，能让AI生成编辑级质量图表，有多种图表类型，具备诸多亮点功能，还介绍了安装使用方法。
发春节红包的大厂被约谈；百度O计划曝光，文心助手MAU增4倍；影石CEO回应年会送出5套房｜AI周报
本周AI行业热点不断，大厂春节红包促销被约谈，百度文心助手MAU猛增4倍，影石年会豪送5套房。还有模型更新引吐槽、谷歌发债、迪士尼侵权指控等事件，也有新模型发布及企业应用新进展。