「防御评估」共找到 804 篇相关文章
北大、字节、中科院自动化研究所等提出图像并行生成新范式
北大、字节等团队发现多模态模型先思考后作画会降低图像语义保真度，因自回归架构有误差传播问题。为此提出并行多模态扩散框架MMaDA - Parallel，构建ParaBench基准，多项优化后在测试中击败Bagel。
Anthropic 研究发现：仅需少量污染文档即可对 LLM 实施投毒
Anthropic的Alignment Science团队研究大语言模型训练投毒攻击，实验发现仅250条恶意样本就能植入“后门”，且模型越大攻击越易，还对微调数据集实验，引发讨论。
ACM MM 2025 Oral | 新加坡国立大学提出FractalForensics，基于分形水印的主动深度伪造检测与定位
近些年来，深度伪造主动防御受关注，但现有方法有鲁棒性不稳定等问题。新加坡国立大学等团队提出 FractalForensics 方法，基于分形水印实现主动深度伪造检测与定位，实验效果良好。
听说，大家都在梭后训练？最佳指南来了
大模型时代，Scaling Law 边际效益递减，业界转向后训练。《Post-training 101》博客可助初学者入门，涵盖从预训练到指令微调、SFT 原理、多种强化学习技术及模型评测方法等内容。
腾讯开源智能体构建框架
腾讯开源智能体构建框架 Youtu-Agent，灵活高性能，验证性能出色，开源友好成本低。有自动智能体生成等亮点，适用于不同用户群体，涵盖研究、开发等场景，还介绍核心概念，附项目地址。
OpenAI和Anthropic罕见互评模型：Claude幻觉明显要低
OpenAI和Anthropic罕见合作，互相授予API权限评估模型安全与对齐情况并发布报告。双方派出多模型参与，从指令层次、越狱、幻觉、欺骗策略等方面评测，呈现各模型优缺点。
GPT-5、Grok 4、o3 Pro都零分，史上最难AI评测基准换它了
AAI机构提出新基准FormulaOne，让GPT - 5、o3 Pro等前沿大模型集体得零分。该基准含220个图结构动态规划问题，分三类难度。测试结果显示，模型在深层及最深层难度表现差，引发关注。
MSSP | 西北工业大学马启悦，高传强等：融合激波位置的跨声速抖振气动载荷辨识
本文提出融合激波位置的跨声速抖振气动载荷辨识方法，从时序流场提取激波特征，用稀疏辨识构建参数化代数方程，增强预测精度与泛化能力，为准确预测跨声速气动载荷提供新思路。
DeepMind 再放大招，AlphaGenome 能一次性处理百万碱基对，基因组里的“垃圾代码”这下藏不住了
Google DeepMind发布AI模型AlphaGenome，可预测遗传变异对基因调控的影响。它能处理百万碱基对，结合关键技术，性能顶尖，还能直接建模RNA剪接点，已面向非商业研究开放，引发医疗AI应用讨论。
如何选择最佳多模态大模型压缩方案？哈工大、度小满开源EFFIVLM-BENCH基准测试框架
金融科技智能化转型中，LVLM部署受算力瓶颈制约。哈工大与度小满联合开源EFFIVLM - BENCH基准测试框架，能为多模态大模型压缩方案出具‘体检报告’，还揭示LVLM加速复杂性，推动技术发展。