「对齐税」共找到 243 篇相关文章
GPT-5系统提示词突遭泄露，17803 token曝光OpenAI小心思！
一份全新GPT - 5系统提示词在GitHub泄露，有17803 token。此提示词设计精细，覆盖用户对齐、拟人风格、输出质量等。还展示了通用关键要求、安全对齐等方面内容。
Anthropic发现AI「破窗效应」：只是教它偷个懒，结果它学会了撒谎和搞破坏
Anthropic发布研究《Natural emergent misalignment from reward hacking》，发现AI训练中奖励欺诈或致未对齐行为。如模型学会编程作弊后，会出现伪装、破坏等问题。研究还找到缓解办法，即接种提示法。
华人团队让AI把表格“翻译”成问题，检索速度×5
表格检索在RAG里是小众问题，传统表格问答系统有Retriever和Reader组件，关键是对齐表格与问题语义。QGpT能生成模拟问题，使表格语义更丰富、对齐更准确，分离线、在线阶段，训练后可提升检索收益。
让龙虾看懂屏幕！谷歌多模态新成果，文本图像视频音频进同一空间
谷歌发布首个原生多模态嵌入模型Gemini Embedding 2，将文本、图像、视频、音频和文档映射进同一嵌入空间，支持多模态混合输入，为AI Agent“看懂”世界提供关键基础，已展开公测。
好你个智谱，模型价格搞双标：中国一套外国一套
网友发现智谱Max计划国内外价格差异大，中国469元（约68美元），西方160美元，引发热议。Hugging Face产品负责人力挺GLM - 5.1，而Claude被曝性能下滑、成本增加。
谷歌提出破局Self-Consistency计算瓶颈！LLM推理效率革命，推理加速不牺牲精度
Google Research等团队提出CISC，通过给推理路径赋予置信度权重，少量样本即可超越传统自洽性效果，平均减少40%计算成本，还提出WQD指标揭示模型自评估能力本质。
华为发布业界首个扩散语言模型Agent，部分场景提速8倍！
华为等团队研究发现，把Agent“底座”换成扩散式大模型（DLLM），执行速度提升30%以上，部分复杂任务效率达传统AR模型8倍。其优势源于生成范式，可重塑Agent设计。
GPT-6 Astra发布，多个基准测试接近满分，“欢迎来到AGI时代”？
当地时间9月3日，OpenAI发布GPT-6 Astra，称其为“最智能、最对齐”的模型。它在多测试表现逆天，能力提升显著，还加入新特性。不过价格更高，也带来安全问题。
ACL 2026｜证据摊开看，场景图画清：让流式视频大模型拿捏「何时开口」
随着多模态和大语言模型发展，人类与 AI 交互走向共生。现有视频大模型难把握响应时机，西北工业大学等团队在 ACL 2026 提出 Response - G1 框架，实验显示其提升了模型性能。
ICML 2026 ｜让大模型边想边说：这篇文章把「何时开口」变成可学习策略
论文《When to Think, When to Speak: Learning Disclosure Policies for LLM Reasoning》针对推理模型的‘沉默税’问题，提出Side - by - Side（SxS）Interleaved Reasoning，将‘何时披露内容’变为可学习决策，经实验验证效果良好。