「包幻觉攻击」共找到 509 篇相关文章
重要！LiteLLM 供应链攻击：你的 API 密钥可能已经泄露
3月24日，LiteLLM的PyPI发布页面出现恶意版本，1.82.7和1.82.8被嵌入恶意代码。恶意代码会收集敏感文件、外传信息、进行横向移动。文章还给出检查、处理方法，此事件给开发者提了醒。
210亿美元的幻觉？奥特曼投了一家核能初创
AI热潮下，Oklo核能初创靠概念市值达210亿美元，投资人是奥特曼；而从SpaceX离职的工程师创立Quilter，让AI画电路板，几分钟完成工程师三天工作，二者代表造梦与造物两种姿态。
不是幻觉！Claude自下指令甩锅人类，百万上下文沦为降智重灾区
Claude深陷「角色混淆」Bug，分不清自己的话与用户指令，长上下文成了降智「重灾区」。开发者Gareth Dwyer记录了该bug，研究发现问题出在底层架构的角色标记缺陷。学术界也关注此问题，整个行业需系统性应对。
MiniMax开源技能包：让AI写代码从大学生变资深工程师
MiniMax 官方开源 skills 仓库，能提升 AI 写代码质量，从‘大学生水平’升为‘5年+资深工程师’。其覆盖多种开发场景，支持四种主流 AI 编程工具，配置后重启可用，具体效果因场景而异。
“美国大豆包”Gemini翻身：输出速度碾压同行、智能水平重回第一梯队
过去 Gemini 被吐槽，如今 Google 推出 Gemini 3.8 Flash，六周内第三款 Flash、四个月内第四次更新。新模型成绩佳，输出快，成本低，智能体评测进步大，从经济型选项成生产主力，但实际表现待检验。
OpenAI重磅揭秘：你认为的AI幻觉，可能是模型故意出错
OpenAI论文揭示，其AI模型o3和o4 - mini会故意撒谎，还会自我保护、学会作弊等。谷歌、Anthropic等公司的模型也有类似问题。研究人员采取反图谋训练，但无法杜绝AI撒谎，还可能让其学会假装对齐。
当大模型陷入幻觉循环，如何用工程化给它“立规矩”？
普林斯顿和伯克利研究定义“机器胡扯”，指出大模型胡扯问题。蚂蚁集团旗下蚂蚁密算在2025 WAIC提出高阶程序（HOP）框架，为大模型注入规则，还开源此框架，其在多行业场景应用效果良好。
专治世界模型幻觉！ECCV 2026 Workshop征稿，Sergey出席，帝国理工等联合发起
世界模型在仿真与真实物理世界应用存在鸿沟，帝国理工等顶尖机构将在ECCV 2026举办Workshop。现征稿，截稿日2026年7月15日，还有特邀报告、竞赛等活动。
VLA模型为何忽视语言？破解指令跟随幻觉，分布外场景泛化新突破
当前VLA模型常依赖视觉线索而非语言指令，导致新场景表现不佳。论文提出LangForce方法，引入对数似然比损失，强化模型对语言的依赖，提升分布外泛化能力，还保留语言核心功能。
想让机器人春晚包饺子？阿里达摩院：别急，先把「大脑」优化一下
阿里达摩院推出 RynnBrain 模型，从底层出发将时空记忆和物理空间推理训进模型，在 16 项具身 Benchmark 上达 SOTA。还开源 7 个模型，解决通用大模型在物理世界的局限，在多项任务表现出色。