「未对齐行为」共找到 1129 篇相关文章
AI 视频生成“试金石”：谷歌 Veo 3 体操“图灵测试”未达标，仍是“抽象派”！
谷歌新出的Veo 3视频生成模型画质惊艳且能开口说话，但生成体操动作效果差，像“抽象派”。虽存在生成不准问题，但物理效果比其他模型好。有人建议其与专业动捕公司合作，音画一体或成视频模型竞赛标配。
Anthropic让9个Claude Agent花5天做出比人类强4倍的对齐成果
Anthropic发表Automated Weak - to - Strong Researcher，用9个并行的Claude Opus Agent组成自动化研究团队，5天就把PGR从人类的0.23提升到0.97，成本约$18,000，证明AI自动化研究可行。
0.25秒识破未见攻击，这套检测方法没看过任何越狱样本 | EMNLP'26
大视觉语言模型带来隐蔽攻击面，现有检测器难平衡。中国人民大学与阿里巴巴集团联合提出Learning to Detect（LoD），不依赖攻击样本和手工规则，从模型内部激活学安全模式，实验效果好且代码开源。
揭秘大模型Steering：从底层机理到系统评估，全面破解大模型行为控制之谜
近期《Science》研究表明可解析AI内部表征实现通用引导与监控。浙大联合阿里两篇ACL 2026主会论文，揭示Steering工作原理与能力边界，还开源一站式框架EasyEdit2，全面展示了Steering价值。
每周产业洞察 | AI音视频模型能力全面嵌入“专业级视听内容”交付，对齐“制作级”
北京AIGC视听产业创新中心位于朝阳区，是朝阳区推动影视制作基地建设举措。由多方参与，首创郎园运营，提供六大服务平台，截至2025年8月汇聚近百家合作伙伴。首创郎园拓展服务能力，项目多地开花。
AI 赋能 eBay 支付风控：从用户行为到交易安全的全面智能化｜AICon 北京
6月27 - 28日AICon全球人工智能开发与应用大会北京站将举办，eBay高级技术专家魏瑶将分享《AI赋能eBay支付风控》。eBay用AI提升风控能力，也面临挑战并提出方案，大会还有多专题论坛。
编程超越 Gemini 3 Pro？GLM-5 性能实测对齐 Opus 4.6，智谱市值突破1700亿港元
临近春节，智谱AI发布最新旗舰大模型GLM-5，其代码和智能体能力表现出色，在多方面逼近Claude Opus 4.5，性能超Gemini 3 Pro。该模型已开源，依托国产芯片部署，不过受算力限制，将逐步向用户开放。
NeurIPS 2025 | ARGRE框架实现高效LLM解毒：自回归奖励引导，安全对齐更快、更准、更轻
北航等机构研究提出自回归奖励引导表征编辑（ARGRE）框架，在LLM潜在表征空间可视化毒性变化路径，实现测试阶段高效“解毒”。实验显示其降低毒性、缩短推理时间，不影响模型能力，优于基线方法。
AI将消灭中产阶级！前谷歌高管惊人预警：未来只剩金字塔尖0.1%和底层
前谷歌X高管Mo Gawdat警告，2027年起AI将开启15年“地狱模式”，大批白领失业，中产阶级消失，只剩0.1%富人和底层。之后将进入AI主导的乌托邦时代。他认为邪恶人类应被AI取代，人类需将权力交给AI。
当达沃斯还在热议AI未来时，中国一家公司的AI教育已经服务了全球5000万群体
世界经济论坛第56届达沃斯年会聚焦AI，各方探讨其走向与价值。松鼠Ai作为中国AI独角兽企业受邀，其智适应教学系统落地应用，创始人栗浩洋提出AI价值重构，该企业还具备全球复制潜力。