「规范对齐」共找到 343 篇相关文章
Anthropic发现AI「破窗效应」：只是教它偷个懒，结果它学会了撒谎和搞破坏
Anthropic发布研究《Natural emergent misalignment from reward hacking》，发现AI训练中奖励欺诈或致未对齐行为。如模型学会编程作弊后，会出现伪装、破坏等问题。研究还找到缓解办法，即接种提示法。
Harness 工程之道：Skill 原理与最佳实践
文章介绍 Agent Skills，一种为 AI Agent 扩展能力的规范。从概念原理出发，结合 trade-ab-skill 项目，讲解结构规范、触发机制、作用域优先级及最佳实践，还介绍用 skill-creator 创建 Skill 的流程。
华人团队让AI把表格“翻译”成问题，检索速度×5
表格检索在RAG里是小众问题，传统表格问答系统有Retriever和Reader组件，关键是对齐表格与问题语义。QGpT能生成模拟问题，使表格语义更丰富、对齐更准确，分离线、在线阶段，训练后可提升检索收益。
AI生成内容如何确权？全国首部区块链知识产权存证标准启动编制，欢迎参与起草！
区块链存证技术能解决知识产权确权、举证、维权难题，但实践中存证流程不规范等问题凸显。全国首部《基于区块链的知识产权存证管理规范》团体标准立项，正征集起草单位和起草人，可解决企业核心困境。
让龙虾看懂屏幕！谷歌多模态新成果，文本图像视频音频进同一空间
谷歌发布首个原生多模态嵌入模型Gemini Embedding 2，将文本、图像、视频、音频和文档映射进同一嵌入空间，支持多模态混合输入，为AI Agent“看懂”世界提供关键基础，已展开公测。
谷歌提出破局Self-Consistency计算瓶颈！LLM推理效率革命，推理加速不牺牲精度
Google Research等团队提出CISC，通过给推理路径赋予置信度权重，少量样本即可超越传统自洽性效果，平均减少40%计算成本，还提出WQD指标揭示模型自评估能力本质。
给Cursor、Claude Code装上这个CLI，能变现
teamai-cli 是腾讯开源的命令行工具，能集中管理团队调教 AI 编程助手的成果，同步给全团队。它复用软件工程方法，解决 AI 协作中经验不沉淀、行为不一致等问题，让 AI 能力从个人资产变为团队资产。
Copilot 创始工程师：大多数 AI 编码“就像开着法拉利去买牛奶一样”
GitHub Copilot 创始工程师 Neel Sundaresan 正构建智能编码工具 IBM Bob，已有 8 万 IBM 开发者使用。他认为多数 AI 编码像开法拉利买牛奶，Bob 会按需调度模型，他还谈及智能体市场变化与风险。
华为发布业界首个扩散语言模型Agent，部分场景提速8倍！
华为等团队研究发现，把Agent“底座”换成扩散式大模型（DLLM），执行速度提升30%以上，部分复杂任务效率达传统AR模型8倍。其优势源于生成范式，可重塑Agent设计。
17000 tokens的GPT-5系统提示词被意外泄露，以及八点总结~
OpenAI GPT - 5的system prompt被曝光在github，约17803 Tokens、78960 Characters。文章对提示词做八点分析总结，如互动风格、写作要求、工具使用等，还给出工具部分重点。