「语言模型安全」共找到 8496 篇相关文章
震撼实锤！清华姚班校友揭「1.4×加速」陷阱：AI优化器为何名不符实？
为降低大模型预训练成本，近年新优化器频出，宣称加速1.4×到2×却难落地。斯坦福研究指出方法学缺陷，对比不同缩放范式加速差异，给出优化器设计见解，证实严格基准评测必要。
重磅开源！240亿参数力压Nano Banana 2
4月初，京东探索研究院开源JoyAI - Image - Edit图像模型。它是业内首个将「空间智能」写进底层的开源一体化图像模型，能让模型「理解空间，编辑空间」，在电商和具身智能场景极具价值。
龙虾安全被3层硬核架构焊死了！一份面向开发者的硬核生存指南
随着OpenClaw等高权限智能体应用爆发，AI自主性与失控的赛博博弈开启。文章从源头对齐、边界重构、结果保障三个维度，拆解适应智能体自主行动时代的新型安全框架，为开发者提供生存指南。
Scaling Law 仍然成立，企业搜广推怎么做才能少踩“坑”？
InfoQ《极客有约》X AICon 直播邀请京东颜林等探讨生成式推荐落地洞察。指出搜广推场景 scaling law 成立且在上升，还分享大模型对搜广推的改变、架构成长方式，及平衡成本等方面的经验。
Qwen新开源，把AI生图里的文字SOTA拉爆了
通义模型家族新开源图像生成模型Qwen - Image，是通义千问系列首个图像生成基础模型。实测其对提示词理解到位，文字渲染高保真。它具备复杂文本渲染、一致性图像编辑能力，在多基准测试达SOTA。
关于机器人数据，强化学习大佬Sergey Levine刚刚写了篇好文章
训练大模型难度随规模和应用拓展而增加，所需数据海量。机器人领域获取训练数据成本高，研究者尝试找替代方案。强化学习大牛Sergey Levine分析数据组合，认为鱼和熊掌不可兼得，替代数据有局限。
宋晓冬、李博加入Meta，超级智能迎来最强“守门人”
近期AI安全受关注，Meta引入Virtue AI三位联合创始人及部分核心团队到超级智能实验室。宋晓冬、李博、桑米·科耶乔都是AI安全等领域知名学者，Virtue AI有安全防护与治理产品，Meta借此补强安全能力。
打破数据质量鸿沟！清华腾讯Bee项目发布1500万高质量数据集，刷新MLLM全栈开源SOTA
全开源多模态大模型性能被闭源和半开源模型“卡脖子”，根源在于数据质量。清华与腾讯混元团队推出Bee项目，有三大核心贡献，产出的Bee - 8B模型表现领先，证明保证数据质量比堆量更有效。
用AI“打开”金融市场黑盒：微软亚洲研究院如何构建订单级仿真引擎
在大模型与智能 Agent 崛起的时代，金融行业变革不断。微软亚洲研究院刘炜清在 AICon 大会分享，团队构建金融基座模型与 Agent 流程，实现高保真市场模拟与决策优化，还介绍了相关平台和模型构建应用。
为了「自我锤炼」，OpenAI 造了一个攻击力极强的「AI 黑客」
OpenAI宣布扩展网络安全计划Daybreak，推出GPT‑5.6‑Cyber，分蓝队和红队。红队模型模拟黑客找漏洞，能力强悍，高危安全任务完成率达95%。但此举也带来安全风险，OpenAI采取分级授权等措施。