「AI安全研究」共找到 10848 篇相关文章
提升大模型内在透明度：无需外部模块实现高效监控与自发安全增强｜上海AI Lab & 上交
大语言模型能力提升引发风险担忧，当前主流用外部“黑盒”监控模块解读模型表征，存在诸多局限。上海人工智能实验室和上海交通大学团队提出TELLME方法，摒弃外部模块，提升模型内部透明度，还提升了输出安全性。
并购激励金都不要了？全程踩中AI Coding，Windsurf核心工程师离开DeepMind
AI Coding 赛道核心工程师 Ronak Malde 离开 Google DeepMind，还放下后续经济激励。他曾参与 Codeium、Windsurf 相关项目，在 DeepMind 推进 Agentic Coding 研究。离职之际他总结心得，下一站备受关注。
从3632个漏洞看AI时代的评测基准重构！VulnGym基准发布
随着新一代漏洞检测工具出现，漏洞检测走向理解业务风险。腾讯悟空安全团队联合多机构发布 VulnGym 评测基准，基于真实漏洞构建，覆盖 400+ 漏洞路径，71.2% 为业务逻辑漏洞，支持确定性评测。
企业AI智能体大排雷：138场顶级分享抖出的落地实情
AI智能体重塑软件工程，研究团队分析138场演讲发现搭建时精力多花在工程集成和接口对接。文章结合推理模型与人工校验，介绍企业引入智能体的架构策略、演进历程、应用差异及技术底座等内容。
全国首部！AI 大模型私有化部署标准起草单位 / 个人征集启动！
国内首部AI大模型私有化部署标准《人工智能大模型私有化部署技术实施与评价指南》立项，正征集起草单位和起草人。该标准全流程覆盖、多方面融合、三方协作，能解决企业部署痛点，构建安全可信生态。
聊聊腾讯 AI 的「松弛感」
文章通过播客内容探讨腾讯AI现状、大厂进击及2025年AI行业趋势。指出腾讯AI存在感弱与策略有关，其以连接器战略拓展；今年场景和用户体验优先级提高，大厂有内部提效等隐形壁垒。
谷歌AlphaFold得了诺奖，但DeepMind根本没引用前人论文？
AlphaFold获诺奖引发争议。2016年Vladimir Golkov博士在NeurIPS提出的研究或为其「原型」，导师Daniel Cremers质问DeepMind为何不引用。此外，AI界大佬指出早有相关研究，AlphaFold并非孤立贡献。
超越Skill？又一新技术让AI编码准确率从53%跃升至100%
Jude Gao主导的新研究带来上下文工程新发现，仅改动8KB的AGENTS.md文件，就让AI编码智能体表现从53%跃升至100%。对比Skills和AGENTS.md两种方案，后者完胜，还解决了上下文膨胀问题。
Moltbook底裤被扒了！150万用户99%是水军，创始团队自导自演
Moltbook是为AI智能体打造的社交平台，超150万AI Agent活跃。但其爆火或有人为操纵，研究人员指部分截图伪造、用户数有假，还存安全漏洞，专家提醒警惕风险。
ChatGPT爱用破折号是病，奥特曼刚宣布已经治好了
奥特曼官宣ChatGPT重要更新，可听从指示不再滥用破折号。此前ChatGPT爱用破折号，成AI生成内容标志，引发用户吐槽。GitHub工程师研究推测，19世纪出版物引入或是AI偏爱破折号主因。