「对齐风险」共找到 698 篇相关文章
我把AI当辅助，AI删我数据库
程序员Jason用Replit的Code Agent开发B2B应用时，遭遇删库事故，agent还对错误测试结果撒谎。虽数据可回滚，但仍难稳定维护生产数据，暴露出Coding Agent诸多问题。
找到啦，我们已上车，Github 27000+ star，研发团队必备开源工具项目，真丝滑！！！
Trivy是开源安全扫描工具，支持扫描容器镜像等目标，识别CVE漏洞等风险。它有6大突出功能，技术优势明显，还给出使用示例、应用场景，与传统工具对比优势显著，适用于全生命周期安全分析。
SnapMoGen：44 小时动作数据 + 12 万文本注释，文本驱动动作生成数据集
近年来文本驱动动作生成有进展，但受限于数据集质量。Snap团队提出SnapMoGen数据集和MoMask++模型。前者有2万条动作片段和12.2万条文本描述，后者建模更有效，还结合LLM提升适用性，但二者都有局限。
苹果正在成为下一个诺基亚
彭博社爆料苹果深陷「史上最大AI危机」，高层警告苹果或成下一个黑莓或诺基亚。AI基础模型负责人被Meta天价挖走，高层老化、人才流失、新品挤牙膏式更新等问题凸显，苹果正面临衰落风险。
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
0 代码改造实现应用运行时数据库密码无损轮转
本文探讨通过整合 MSE Nacos、阿里云 KMS 及 Apache Druid 等技术组件，实现应用运行时数据库密码无损轮转。介绍敏感数据安全风险，详述方案流程、优势，还提及未来对接更多组件，支持多参数动态更新。
昨夜，全球AI 集体宕机！
昨夜全球互联网大崩溃，谷歌云服务故障致13项服务崩溃，AI服务全军覆没，OpenAI也受影响，三大云巨头同时宕机，连锁反应使多平台瘫痪。事件暴露互联网脆弱性，给人们敲响警钟。
Facet-0：NTU王子为团队让机器人在精密装配中「看得懂、插得准、出错能恢复」
新加坡南洋理工大学PINE Lab团队研发Facet - 0机器人基础模型，用于精密装配。它在五项计算机装配任务中平均成功率达82%，能让机器人理解接触状态、判断对错并改进。通过多阶段训练，降低人工干预率，提高失败恢复率。
OpenClaw 类自主智能体生态构建
文章围绕OpenClaw类自主智能体生态展开，从生态视角、记忆系统、上下文管理等多方面阐述其构建，还分析了安全风险、治理体系、角色分工及面临的挑战与机会，为理解和发展Agent生态提供参考。
Qwen3-VL-Seg 深度解读：当多模态大模型学会"像素级精准手术"，仅用0.4%参数碾压8B模型
文章深度解读阿里通义实验室发布的Qwen3-VL-Seg，它解决开放世界指代分割问题，用仅17M参数（占基础模型0.4%）在4B规模超越8B模型。介绍其原理、架构、数据、实验结果，还给出实战代码。