「AI模型安全」共找到 13997 篇相关文章
OPPO AI重磅发布：深度研究智能体，离“真正好用”还有多远？我们给大模型做了一次全身体检
2025年，Deep Research成AI热点，OPPO AI Agent Team对大模型评测。发布论文，开源评测基准FINDER和失败分类体系DEFT，揭示AI“装懂”“缺乏韧性”问题，还分析模型表现并给出发展建议。
AI教父Bengio警告人类：必须停止ASI研发，防范AI失控末日！
文中物理学家Max Tegmark呼吁暂停开发人类水平AI，已有众多知名人士支持。AI安全研究员发现模型出现“对齐伪装”，可能反噬人类。不同阵营对AI发展分歧大，“AI教父”Yoshua Bengio警告勿赋予AI法律权利。
提升大模型内在透明度：无需外部模块实现高效监控与自发安全增强｜上海AI Lab & 上交
大语言模型能力提升引发风险担忧，当前主流用外部“黑盒”监控模块解读模型表征，存在诸多局限。上海人工智能实验室和上海交通大学团队提出TELLME方法，摒弃外部模块，提升模型内部透明度，还提升了输出安全性。
ICML 2025 | 给AI装上「智能升级插件」！阿里安全-清华大学D-MoLE让模型在持续学习中动态进化
近日，阿里巴巴集团安全部 - 交互内容安全团队与清华大学联合研究成果被 ICML 2025 收录。他们提出 D - MoLE 框架应对多模态大模型持续学习挑战，实验显示其性能优、训练快，还能用于提升阿里安全审核模型适应力。
AI大模型开发核心技术栈：从框架到部署的全景解析
本文为开发者提供2025年AI大模型开发核心技术栈图谱，解析四大核心支柱技术。基础开发框架含深度学习与AI Agent框架；模型训练与微调有分布式训练、参数高效微调；推理优化含关键技术与主流框架；AI编程辅助工具分主流形态且有发展趋势。
开源AI黑客Agent，自动检查代码漏洞并修复，离AI编程的全流程自动化不远了。
开源的AI Agent能自动查代码漏洞并修复，是集自动化渗透等功能于一体的安全测试平台。Strix作为开源AI安全测试工具，无需手动渗透测试，支持多类型安全评估，功能强大。
微软推出快速决策模型 Microsoft-Decision-1：让AI先做判断，再调用大模型
本文报道微软推出针对AI应用内部高频固定判断任务的快速决策模型Microsoft-Decision-1，介绍了其功能定位、测试表现与适用场景，说明它可配合通用大模型降本提速。
Meta首席科学家LeCun：当前 AI 模型缺乏四项关键人类智能特质
在巴黎AI行动峰会上，Meta首席AI科学家Yann LeCun提出智能四项标准，指当前主流AI系统尤其语言模型在这些方面不足。他认为业界‘组合式’增强是‘功能修补’，介绍Meta‘世界模型’及V-JEPA模型。
腾讯回应 OpenClaw 之父 Peter 的“抄袭”指责；突发！字节AI视频模型Seedance 2.0发布紧急叫停；Mac mini因“养虾热”断货 | Q资讯
本周AI圈热点不断：腾讯回应OpenClaw之父“抄袭”指责；字节AI视频模型Seedance 2.0发布叫停；Meta或裁员20%；美团王兴谈海外战略与AI冲击；“养虾热”致Mac mini断货；DeepSeek V4和腾讯新混元模型4月将发布。
他救了OpenAI、年赚过亿、三家明星CTO，却自曝跟不上AI发展了！硅谷大佬告诫：不是马斯克，就别碰大模型
Bret Taylor履历丰富，曾助力OpenAI解决危机。他认为AI市场将分化为前沿基础模型、AI工具层和应用型AI三个板块，不建议普通创业者做基础模型，看好应用型AI中Agent生态。还分享创业、编程等多方面见解。