「包幻觉攻击」共找到 509 篇相关文章
45亿红包打响AI入口大战，百度给出另一种回应
春节期间，国内外AI圈有两件大事，国外OpenClaw在GitHub爆火，国内大厂掀起AI春节营销大战。百度率先接入OpenClaw，并推出5亿红包活动。其采用搜索+AI策略，有全栈布局优势，想走长远发展之路。
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
推出 AnyLanguageModel：在 Apple 平台统一本地与远程大语言模型的 API
大语言模型是构建现代软件的重要工具，但 Apple 平台开发者集成模型困难。Hugging Face 发布 AnyLanguageModel，是 Swift 包，可替代 Apple Foundation Models 框架，支持多模型服务商，降低使用 LLM 难度。
当AI穿上白大褂：医疗智能体正在重构临床工作流
新加坡等多所高校联合发表医疗智能体综述研究。医疗智能体有感知 - 认知 - 行动闭环，能深入临床长链条工作流。综述剖析其架构、协同机制、应用场景与安全挑战，还探讨评估及发展方向。
地理学的AlphaEvolve？MIT斯坦福让AI自我生长、懂地理、懂世界
MIT和斯坦福学者提出GeoEvolve，把地理知识「嵌入」AI，让其成为能自主改进算法的科研合作者。它有双循环机制和四个核心模块，输入简单，开源为Python包，改进Kriging模型效果显著。
Windows 10 停服引发全球热议，国产OS迎来窗口期？专家：技术迭代是残酷的，也是必然过程
微软宣布 2025 年 10 月 14 日停掉 Windows 10 免费更新与技术支持。这引发全球热议，也让国产 OS 迎来发展思考。专家认为这会加速生态多样、重塑产业价值链，同时分析了国产系统机遇、挑战和发展路径。
EMNLP 2025 | CARE：无需外部工具，让大模型原生检索增强推理实现上下文高保真
MetaGPT等机构团队发布CARE框架，可让LLM将推理上下文与自身检索能力结合，已全面开源。它提出原生检索增强推理范式，采用两阶段训练策略，在问答基准实验中表现出色，为解决模型问题提供新路径。
安全垂类小模型效果能超过大模型？看看以色列Novee的效果
跟踪AI渗透测试等开源应用发现，通用大模型成本高、功能受限。以色列Novee融资5150万美元并发布4B小模型，测试效果超Claude 4 Sonnet。其靠两阶段训练和浏览器反馈提升能力，有投资说明有价值。
小模型也能精确计算：WorldModel-Qwen的推理时代码执行实验
开发者bigattichouse让Qwen - 0.6B小模型推理时生成并执行WASM代码获计算结果。最初尝试加标签生成Python代码效率低，后用WASM，创建三层架构。虽结果未完美，但接近，还通过Gemini审查验证。
拒绝「盲修」：JarvisEvo 如何让 Agent 像人类一样拥有「视觉反思」能力？
现有 Image Editing Agent 缺乏视觉反馈，易致「指令幻觉」和 Reward Hacking。JarvisEvo 应运而生，它通过 iMCoT、SEPO、On - Policy Reflection 等技术，结合 ArtEdit 数据集和三阶段训练，在修图上表现出色，意义超图像编辑。