「安全研究」共找到 2692 篇相关文章
700多个「坏模型」喂出AI测谎仪？Anthropic审计神器让AI自曝黑料
Anthropic故意训练近700个「有问题」模型，训了LoRA适配器（IA）让模型自报家门。IA在AuditBench平均成功率59%，但也存在幻觉、成本高、训练分布无指南等局限。
Monet：赋予多模态大模型如人类一般的抽象视觉思考能力
文章介绍了Monet模型，它实现了训练MLLM直接在连续隐空间思考的方法，内化视觉思考能力。还阐述了多模态模型隐式推理训练的难点，提出SFT+RL训练框架，构建数据集，经测试，Monet提升了视觉推理能力。
智源：ArXiv CLI重磅开源！2亿+开放论文，即将化身科研智能体的技能包
智源研究院联合高校与社区开发者研发的 DeepXiv 开源并免费开放。它是面向智能体的科技文献综合性工具集，提供数据接入、一站式能力集成、丰富接入形式等核心能力，还通过实战演示展示其在科研任务中的价值。
首个用户生活「长程模拟器」来了！LifeSim 重新定义大模型个性化评测
现有个性化助手评测基准与真实用户-助手交互脱节，来自复旦大学等的研究人员提出 LifeSim 框架及 LifeSim-Eval 评测方法。实验显示主流 LLM 处理显性需求尚可，隐性意图识别等方面短板明显。
Anthropic史诗级泄密！全新模型意外曝光：能力碾压Opus 4.6，因太危险被限制发布
Anthropic重大泄密，全新模型“克劳德神话”（Claude Mythos）及Capybara层级曝光。新模型性能超Claude Opus 4.6，但因网络安全隐患大未全面发布，首批仅给安全机构。泄密源于配置失误。
人大高瓴孙浩团队发表Nature子刊封面文章：基于并行符号枚举的物理定律发现
中国人民大学高瓴人工智能学院孙浩教授团队在《自然 - 计算科学》发表封面论文。提出PSE框架解决符号回归瓶颈，通过公共子树复用和GPU并行提升评估效率，实验表现优于现有方法，也指出了局限性与未来方向。
「你是专家」竟成AI幻觉毒药？新论文一巴掌揭穿提示词最大骗局
最新论文证实，「让AI装专家」会可测量、持续地降低模型的准确率。研究发现，Persona Prompting的效果依赖多因素，专家人设提升的多是「对齐感」。为解决问题，研究人员发明PRISM算法。
AI自己写代码做科研还跑赢了前沿算法？清华团队开源Alchemy框架
清华团队开源 Alchemy 框架，它是面向自动化 AI 科研的标准化研究环境，能让 AI Scientist 摆脱工程负担，专注算法创新，还支持多领域、多任务，具有多种特性，在多模态推荐任务中表现出色。
龙虾惨遭卸载，OpenAI 最新博客：Agent 的安全隐患，可能永远无解
OpenAI 博客指出 AI Agent 安全隐患或无解。三大 AI 巨头投入防御，仍难抵攻击，如 OpenClaw 就出现多起安全事故。其根源是大语言模型架构缺陷，不过‘不可解’不等于‘不可控’，业界已有应对策略。
海外华人15人团队打造，统一理解与生成的图像模型，超越Nano banana登顶图像编辑
海外AI初创公司Luma发布图像生成模型Uni-1，将「理解」与「生成」统一，在多任务测试中表现优于GPT Image 1.5和Google Nano Banana Pro。它采用独特架构，提升理解能力，由华人团队打造。