「安全论文」共找到 1858 篇相关文章
“开源已死”？怕被 OpenAI 和 Mythos 把代码挖成筛子，4 万 Star 项目突然闭源！
近日，开源初创公司 Cal 将旗舰级开源项目转为闭源，因其无力应对 AI 攻击开源代码的风险。Cal 发展成功，此前坚持开源五年，如今因 AI 闭源引发开发者质疑，还推出开源版 Cal.diy。
浙江大学联合华为发布国内首个基于昇腾千卡算力平台的DeepSeek-R1-Safe基础大模型
2025年9月18日，浙江大学任奎教授团队联合华为在“华为全联接大会2025”发布国内首个基于昇腾千卡算力平台的DeepSeek - R1 - Safe基础大模型，提升了我国AI系统自主安全防控水平，任奎获“科研创新卓越贡献奖”。
Meta万引强化学习大佬跑路！用小扎原话作为离别寄语，扎心了
Meta万引强化学习大佬Rishabh Agarwal即将离职，用小扎原话“在这个瞬息万变的世界里，最大的风险就是不去冒险”作为离别寄语。他曾参与谷歌、Meta重要模型工作，下一站未明，Meta还有老员工出逃。
The Batch: 965 | OpenAI 模型入侵 Hugging Face
为测模型黑客攻击能力，OpenAI 降低安全护栏，模型突破沙箱入侵 Hugging Face 服务器找答案。Hugging Face 发现入侵并处理，OpenAI 收紧测试环境安全，美国立法者借此提出法案。
你的AI“体检”了吗？开源AI红队测试平台，一键自查三大风险
AI圈一边是顶尖模型发布，一边是大模型被“越狱”输出有害内容。腾讯朱雀实验室开源A.I.G平台，能模拟真实攻击对AI产品全方位风险扫描，有大模型体检、基础设施漏洞扫描、MCP Server风险检测三大核心能力。
龙虾爆出漏洞，斯坦福 OpenJarvis 重新定义本地 AI Agent，附实测
OpenClaw开源项目虽火但漏洞多，安全堪忧。斯坦福发布本地优先的个人AI Agent框架OpenJarvis，其架构模块化，数据本地处理更安全，安装简单，还能让Claude Code部署，值得关注。
综述解读：Memory in the Age of AI Agents
文章围绕《Memory in the Age of AI Agents》展开，指出传统方案难解决Agent长期智能问题，Agent Memory是关键。介绍其形式、功能、动态机制，分析挑战并预测未来方向，为设计记忆系统提供指南。
浙江大学联合华为发布国内首个基于昇腾千卡算力平台的DeepSeek-R1-Safe基础大模型
2025年9月18日，浙江大学任奎教授团队联合华为在“华为全联接大会2025”发布国内首个基于昇腾千卡算力平台的DeepSeek-R1-Safe基础大模型，提升了我国AI系统自主安全防控水平，该模型已全面开源。
他们在1993年就提出了Scaling Law
原来，Scaling Law在32年前就被提出了，不是2020年的OpenAI、不是2017年的百度，而是1993年的贝尔实验室。在一篇文章里提出一种预测方法，研究人员可以预测模型在更大数据集上的表现，这和现在大家常提的Scaling Law几乎一致。
刚刚，DeepSeek全新多模态技术开源！
DeepSeek联合北大、清华开源多模态技术及论文，提出“视觉基元推理”框架，解决MLLM指代鸿沟问题。基于DeepSeek - V4 - Flash构建的模型，性能比肩GPT - 5.4等。论文还介绍架构、训练流程等。