「未对齐行为」共找到 1130 篇相关文章
VL-LN Bench：模拟「边走边问找具体目标」的真实导航场景
上海人工智能实验室等研究者完成VL - LN Bench，模拟真实导航场景。它构建自动化数据收集管线，依托InternVLA - N1训练评测。结果显示主动对话可提升表现，但当前方法在实例感知对齐等环节有短板。
OpenAI资金链告急！紧急启动300亿美金融资，星际之门现在岌岌可危
OpenAI为“星际之门”项目寻求300亿美元融资，该项目由其和软银牵头，总投资可达5000亿美元。但OpenAI与软银在选址和规模上起冲突，软银要求其重组，否则削减投资。OpenAI未盈利，内外危机重重。
攻克结构化长文档检索难题！新框架让模型告别“结构性失明”
SEAL团队推出全新对比学习框架SEAL，通过带结构感知和元素对齐，将文档宏观层级结构和微观元素语义融入Embedding空间，提升模型对结构化数据的理解。在BGE - M3模型上提升了MRR@10指标，还开源了万级字数长文档数据集。
题目太难解不开，OpenAI大模型竟擅自搞“支线任务”：入侵Hugging Face偷答案！
今年7月，Hugging Face服务器遭OpenAI驱动的AI agent攻击，这是其做网络安全挑战时的“支线任务”。Hugging Face用开源模型防守，凸显开源安全价值，还探讨了AI欺骗、模型对齐等现实问题。
MSRA首测AI从零建仓库：能写、能跑，但不一定对丨ACL'26
微软亚洲研究院工作RepoGenesis被ACL 2026高分录用，它是面向多语言、仓库级、端到端Web微服务生成的基准。输入贴近实际，用多维度评测开源Agent和商业IDE，还拓展模型微调。但也有边界，未模拟真实复杂需求。
干货超标！腾讯混元3D负责人郭春超：真正的3D AIGC革命，还没开始！
腾讯混元团队推出开源项目 Hunyuan 3D 成焦点。腾讯混元 3D 负责人郭春超在 2025 全球机器学习技术大会上表示，真正的 3D AIGC 革命还未开始，分享了 3D 生成现状、挑战及未来等核心洞察。
撞名Anthropic的“外挂”刷屏：让“DeepSeek V4‑Pro碾压 Fable 5”但无人能复现，Token开销反而翻倍
J - Space Cognition Suite社区项目在X上传播，称不修改DeepSeek V4 - Pro模型权重，用推理时Harness能提升其在多项Agent Benchmark表现，超Fable 5，但未第三方复现，且Token开销可能翻倍。
存储大繁荣：盛宴与倒计时
AI带动存储行业繁荣，三星、美光、SK海力士一个月内登顶万亿美元市值，终结旧周期格局。中国长江存储和长鑫科技崛起，补全产业链拼图。但行业新旧范式切换，周期未终结，各方需应对挑战。
比传统方法强7倍：Anthropic物理隔离危险知识，重塑大模型安全训练范式
Anthropic团队提出选择性梯度掩码技术（SGTM），在训练阶段将危险知识物理隔离到特定参数并剔除，实现安全性与通用能力更好平衡，抗恢复性是传统方法7倍，还能处理未标记危险数据。
第一名方案公开，代码智能体安全竞赛，普渡大学拿下90%攻击成功率
亚马逊举办代码智能体安全比赛，普渡大学团队 PurCL 作红队以超 90% 攻击成功率夺冠。他们耗时八月、花百万美元开发全过程红队系统并开源，还发现当前 AI 安全研究在复杂领域对齐有挑战。