「防御评估」共找到 817 篇相关文章
OpenClaw热潮之后，倒计时最后一天 | 线上预约、线下报名
OpenClaw热潮活动倒计时最后一天，由NICE、上海交大人工智能创新协会主办，2026.4.11 14:00 - 17:00举办。多位嘉宾分享，涉及Agent安全防御、智能体身份与通信、大模型进化及个人智能体发展等内容。
英伟达GPU被曝严重漏洞，致模型准确率暴跌99.9%
英伟达GPU被白帽黑客发现严重漏洞，通过GPUHammer攻击可使大模型准确率从80%降至0.02%。此攻击属Rowhammer类，直接对显存“物理动手”。英伟达建议的防御措施会使模型性能下降。
你的论文有novelty吗？复旦搞了个顶会论文查新系统
复旦大学NLP团队与WisPaper合作研发OpenNovelty系统，用于论文新颖性评估。系统基于大语言模型，强调证据与可验证性，有四步分析流程，已分析1360篇投稿并公开报告，有辅助作用但有局限。
The Batch: 892 | 教育应与 AI 协作，而非对抗
三年多前ChatGPT发布，教育改变。曾寄望用AI检测器识别生成文本，但学生易规避。检测难维持信任，还可能惩罚错对象。生成式AI可提升学习，应构建新评估模型，如展示真实理解等。
CrowdStrike联手Meta发布AI安全基准，让AI在真实网络攻击中证明自己
美国网络安全巨头CrowdStrike与Meta在Fal.Con 2025大会联合推出开源基准测试套件CyberSOCEval，旨在评估AI大语言模型在真实SOC环境下的网络安全能力，它源于Meta之前框架，开源供全球开发者使用。
字节跳动&清华大学开源多模态时序大模型ChatTS，可实现时序数据对话与推理
字节跳动与清华合作开源多模态时序大模型ChatTS，可实现时序数据对话与推理。它用合成数据训练，解决了数据稀缺等问题，在评估中表现远超基线模型，未来可拓展至更高阶任务。
Claude Mythos其实没那么神？AI发现bug其实早已是寻常
VIDOC Security Lab博客指出Claude Mythos实力或被高估，用LLM发现漏洞早有先例，他们用多模型扫描开源项目也发现诸多漏洞。AI辅助漏洞发现成威胁，企业需用AI对抗AI积极防御。
领域驱动的 RAG：基于分布式所有权构建精准的企业知识系统
银行技术供应商为解决文档和专业知识获取难题，探索用 RAG 技术，严格将 AI 作咨询工具。重新分配 RAG 实施所有权，采用元数据方法，探索伸缩性解决办法，构建完整应用并评估性能，结果令人振奋。
刚刚，翁荔博客又上新：通过Harness工程实现AI自我提升
翁荔新博客聚焦Harness Engineering，梳理围绕‘Harness自我优化’的研究，探讨递归式自我提升发生层面，还指出自动化研究和自我提升系统面临的瓶颈，如评估标准模糊、奖励作弊等。
OpenAI罕见发论文：我们找到了AI幻觉的罪魁祸首
AI“幻觉”是阻碍完全信任AI的关键障碍，目前无根治良方。OpenAI罕见发论文揭示其根源，指出标准训练和评估程序奖励猜测，应加大对自信错误的惩罚，奖励表达不确定性。