「包幻觉攻击」共找到 509 篇相关文章
OpenAI与Anthropic罕见合作：竞争对手联手测试AI安全
OpenAI和Anthropic完成联合评估，用内部工具测对方模型并公开结果。测试覆盖指令层级、越狱等四大领域，还发现不少细节和道德困境情况。此次合作意义重大，为行业树立安全合作先例。
小扎“亿元俱乐部”开招白菜岗，年薪20-30万美元，网友：是时候招牛马干苦力了
Meta超级智能实验室开招产品运营经理，年薪总包20 - 30万美元，与公司正常薪资持平。岗位聚焦AI模型，要求本科以上、6 + 年经验，旨在确保大模型产品顺利上线。
手术刀式去噪突破LLM能力上限，从头预训练模型下游任务平均提高7.2% | 中科院＆阿里
中科院计算所与阿里Qwen等团队联合提出RefineX框架，通过程序化编辑任务实现预训练数据精炼。它将专家指导结果蒸馏为删除程序，训练优化模型。用其净化数据训练模型，下游任务平均提高7.2%。
AI Agent已过时？OpenAI亮出王牌Deep Research！
浙江大学一篇综述论文《A Comprehensive Survey of Deep Research》系统性梳理了Deep Research赛道。它是一类AI系统，其背后的Agent范式可迁移到各场景，文章介绍了其技术、架构、应用及面临的挑战与未来方向。
「AI黑客」来袭，Agentic AI如何成为新守护者？
AI 发展带来网络安全新威胁，如生成式 AI 诈骗、深度伪造等。业内共识是以 AI 对抗 AI，有模型防护、行业应用、政府协作三类尝试。青藤云安全推出全栈式安全智能体「无相」，革新安全思维。
OpenAI Astra发布在即，全自动网络攻防能力已突破天际！
OpenAI即将发布的模型Astra，在内部评测中获ExploitBench满分，还发现两个零日漏洞。它能力远超上一代GPT - 5.6 Sol且更听话。不过为安全考虑，OpenAI部署监控，还放慢其研究速度。
传奇黑客首次造出“透明芯片”，从硬件到代码全部公开可验证
8月初第34届Defcon黑客大会，主办方发放美籍华裔黑客黄欣国设计的徽章，核心是开源微控制器Baochip - 1x。该芯片从设计到制造全开放可验证，用红外原位检测，还集成硬件加固手段，安全性能对标商用元件。
让GUI Agent不再「边做边忘」：快手、浙大提出MemGUI-Agent，攻克长程GUI任务
手机GUI Agent在长程任务中易遗忘关键信息，浙江大学APRIL实验室和快手主站技术部提出MemGUI - Agent，核心是ConAct，将上下文管理变为Agent动作，还开源MemGUI - 3K数据集，模型在评测基准取得佳绩。
龙虾让位！硅谷顶流AI「爱马仕」一夜闯进微信，冲上全球第一
硅谷新宠Hermes Agent爆火，GitHub揽6.6万星，原生接入微信引开发者关注。其署名的首篇‘顶会级’论文提出Autoreason推理方法，指出传统‘自我优化’弊端，展示出小模型逆袭等优势。
OpenAI深夜祭出GPT-5.4，暴击Claude！原生操控电脑，打工人悬了
OpenAI发布GPT - 5.4，全面反击Gemini 3.1 Pro和Claude Opus 4.6。它是首个有「原生电脑使用」能力的通用模型，各维度无短板，成绩炸裂，定价也创新高。