搜索：超级智能对齐

「超级智能对齐」共找到 3743 篇相关文章

NeurIPS 2025 | ARGRE框架实现高效LLM解毒：自回归奖励引导，安全对齐更快、更准、更轻

北航等机构研究提出自回归奖励引导表征编辑（ARGRE）框架，在LLM潜在表征空间可视化毒性变化路径，实现测试阶段高效“解毒”。实验显示其降低毒性、缩短推理时间，不影响模型能力，优于基线方法。

过去写代码靠程序员手动输入，即便有Copilot等工具，仍需人主导。并行代理出现后，程序员可调用多个AI并行工作，将端到端交付时间从24h缩减到4h，思维方式也需转变，对工程师能力要求也有变化。

AI编程应用大热，但运行卡顿、资源消耗惊人等问题随之而来。Trae被曝过度消耗资源，Anthropic宣布Claude Code对付费用户增加调用限制，反映出AI产品资源问题影响厂商和用户。

主打“自动化执行、多模型调用、上下文记忆”的AI编程应用大热，但也出现运行卡顿等问题。Trae被曝过度消耗资源，Claude Code对付费用户增加调用限制，凸显AI产品资源问题及厂商成本管控困境。

Proactor AI v1.0发布，号称是世界首个「自主行动」的AI队友。它能感知、思考并自主行动，如识别骗局。还提供主动式AI服务，应用场景广泛，用户反响热烈，带来人机交互范式转变。

当前 Agentic RAG 落地有挑战，UIUC 和 Amazon 提出 s3 训练范式。它仅需 2.4k 样本，训练快且效果好，解决了优化目标偏离、检索与生成耦合等问题，在通用和医学 QA 任务中表现出色。

字节跳动推出开源多模态基础模型BAGEL，有70亿活跃参数。它在多模态理解排行榜超顶尖开源模型，文本到图像质量与SD3媲美，还具备世界建模等能力，文中介绍其方法、特性及使用说明。

腾讯混元AI数字人团队打造SAGE自动化评估框架，可评价AI“共情力”与能否成“知心伴侣”。研究团队用其对18个主流模型测评，GPT - 4o表现最佳，还通过多实验分析模型特性。

来自多机构的研究团队提出 Holi - Spatial，可从原始视频自动生成 3D 重建等数据，构建 400 万级空间标注数据集 Holi - Spatial - 4M，提升 VLM 空间能力，还形成自动化数据飞轮，但存在计算成本高、特定场景表现不佳等局限。

论文针对不同大模型对同一组大模型回答打分差异大等问题，提出无需人工标注、模型无关、即插即用的UDA框架，以无监督方式动态调整Elo评分，实验表明该方法能降低打分标准差、提升与人类评分相关系数。