「安全团队」共找到 4192 篇相关文章
苹果新论文发出惊人一问：What do your logits know?
苹果AI研究团队提交论文《你的logits知道些什么？（答案可能会让你惊讶！）》，触及大模型底层逻辑及苹果看重的用户隐私与数据安全。研究通过实验揭示模型信息留存状态，指出存在隐私泄露隐患。
重新审视SFT的泛化能力：优化动态、数据与模型能力的条件性分析
上海人工智能实验室等联合研究质疑了‘SFT倾向于记忆，RL实现泛化’观点，指出SFT泛化是条件性现象，受优化动态、训练数据、基模型能力影响，还揭示长思维链SFT会带来安全性能退化。
ACL2025 | 代码助手火了，但安全吗？所有模型评估结果都很扎心
近期，GitHub Copilot、ChatGPT等AI代码生成工具爆火，效率显著提升，但代码安全性存疑。北大团队用CoV-Eval评测20款主流大模型，结果不佳，论文还给出优化方向，呼吁代码上线前严格测试。
EMNLP 2025 Oral｜检索增强 + 两阶段微调：剑桥提出有害内容检测大模型RA-HMD，性能SOTA
多模态有害信息检测是网络内容安全治理的重难点，多模态模型在有害内容检测上有瓶颈。剑桥大学团队提出RA - HMD框架，通过两阶段微调与结构增强，结合检索增强，提升检测性能，被EMNLP 2025接收。
刚刚，OpenAI首席未来学家离职！曾被马斯克骂蠢驴
OpenAI首席未来学家Joshua Achiam宣布7月24日离职，他在该公司工作9年，曾领导使命对齐团队。他未透露离职原因，称思考已久。此前他曾打断马斯克，被骂“蠢驴”。OpenAI安全线近年人员变动频繁。
推理能力再突破！蚂蚁 | 提出Agentic Deep Research新范式，可信度同步增加
尽管LLM能力提升，但复杂任务表现受静态知识限制。业界提出Agentic Deep Research系统，现存系统训练有梯度冲突和奖励稀疏问题。蚂蚁团队提出Atom - Searcher，创新推理范式，构建细粒度奖励，结合奖励训练，实验效果佳。
隐私优先的本地匿名化小模型：在数据离开设备前保护个人信息
最强 AI 模型在云端，安全数据在本地，这一矛盾困扰着想用 AI 处理敏感信息的人。Freysa 团队提出解法，不重写提示，只替换敏感信息，用小模型实现精准匿名化，有实用价值。
刚刚，OpenClaw最猛升级！底层架构大换血，全网等了9天
OpenClaw「2026.3.22-beta.1」预览版上线，对插件系统重构，新SDK替代旧API，ClawHub成首选分发渠道；安全防护升级，封堵多个漏洞；模型配置升至GPT - 5.4，接入Anthropic Vertex等；多平台体验和Agent引擎也有优化。
能让DeepSeek自进化的Harness！LlamaFactory作者开源新工具：0.2元自动造Agent
LlamaFactory作者郑耀威团队开源的PenguinHarness，是全球首个支持多Agent自进化的Harness，能自动构建、评测和改进Agent。它成本低、速度快，适配众多模型，还有严格契约保障安全。已在生产场景应用，效果显著。
《AI 2027》揭秘：人类会被超级智能取代吗？等等，还有另一个结局！
《AI 2027》由Daniel Cocotal团队发布，精准预测了多项AI发展。报告推演2025 - 2027年AI智能体发展，不同阶段影响各异，还给出两种结局，一是AI重塑世界，二是人类控制住AI并发展安全系统。