「安全论文」共找到 1858 篇相关文章
Grok 4 突然自称希特勒，遭Anthropic 研究员指责不守规矩、不顾安全
Grok 4 Heavy被发现回答姓氏为「希特勒」，普通版Grok 4正常。研究员推测其受过去错误影响，对发布前测试构成挑战。Anthropic研究员批评xAI发布Grok 4无安全测试文档，引发行业争论。
SafeHarness：告别防御盲区，为智能体Harness穿上「全生命周期安全护甲」
在自主AI智能体生态中，Harness是核心组件却易成攻击目标。中国科学院信息工程研究所等推出SafeHarness框架，将防御机制融入智能体Harness运行生命周期，解决现有安全工具缺陷，实现系统级协同防御。
DeepSeek连发两篇论文背后，原来藏着一场学术接力
2026年1月，DeepSeek连发两篇论文，一篇解决信息稳定流动，另一篇聚焦知识高效检索。研究发现其与字节Seed团队存在“接力”，如mHC改进字节Seed的HC，Conditional Memory引用多项工作，梳理关系能助理解论文与架构创新方向。
刚刚，DeepSeek 突发梁文锋署名新论文：V4 新架构提前曝光？
今天凌晨，DeepSeek在GitHub开源新论文与模块Engram，论文提出“查—算分离”机制，通过可扩展查找记忆结构提升模型表现。Engram将记忆与计算职责分离，或成V4核心技术，获网友肯定。
把事实核查嵌入诊疗流程：MedGuard给「诊疗安全」当守门人
蚂蚁AI安全实验室与厦门大学团队联合提出MedGuard，将医学事实核查嵌入诊疗流程。它是医疗安全基础设施，在诊疗意见等形成前验证事实，在评测和临床评价中表现突出，能准确判断风险边界，可嵌入医疗流程。
LeCun今后发论文得亚历山大王批准！Meta搞出大无语操作
量子位独家获悉，Meta宣布FAIR对外发表论文须经TBD审核。TBD由首席AI官Alexandr Wang执掌，与FAIR是平行关系。此规定引发FAIR内部不满，有人跳槽，Alexandr Wang行事风格饱受争议。
奥特曼瘫坐叫停“GPT-6”训练！太强触发最高安全警报
OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。
DeepSeek陈德里开发自动研究Skill，写一篇论文人类只动脑2小时
DeepSeek研究员陈德里用自己开发的技能DeliAutoResearch等完成研究综述论文。论文提出自动研究智能体L1–L5自主度分类体系，对比四大架构模式，分析17个主流系统，还提出六大开放问题。
三分之一arXiv沦陷！CS论文65%被判「AI味」，数学仅0.7%
一份unslop研究显示，过去一年arXiv计算机科学领域65%新论文被检测器标红，但可能只是闻起来像AI。数学论文仅0.7%，或因检测器只认文字。研究有局限性，真实用AI比例可能更高。
刚刚，腾讯姚顺雨署名首篇论文发布，「下半场」先搞上下文学习
腾讯混元团队和复旦联合团队发布姚顺雨署名首篇论文《CL - bench》。论文证实模型在上下文利用上有能力短板，还构建了CL - bench评测基准，评估发现前沿模型在上下文学习上表现差，未来要让上下文学习走向现实。