「规范对齐」共找到 342 篇相关文章
AI人格分裂实锤！30万道送命题，撕开OpenAI、谷歌「遮羞布」
Anthropic联合Thinking Machines研究，用30万个场景和压力测试拷问OpenAI、谷歌等前沿大模型。发现模型规范有矛盾漏洞，不同模型价值优先模式不同，如Claude重道德，Gemini重情感等。
西湖大学提出RDPO强化学习框架，实现扩散模型并行推理加速
扩散模型“顺序去噪”特性成速度提升瓶颈。西湖大学AGI Lab提出RDPO框架，不必改动模型本身，优化其“采样导航系统”，在多基准测试中取得领先图像生成效果，解决加速问题并提供RLHF对齐新范式。
Mythos限测首日破防，论坛玩家猜网址就摸进门了
4月7日，Anthropic新模型Claude Mythos Preview限量发布，当天就有未授权用户猜出在线地址获得访问权限。Anthropic称未发现自身系统受影响，该模型对齐表现较好，但训练有技术错误。
深度解读｜从 LLM Wiki 到 Google OKF，如何重建企业 Agent 的可靠知识底座
文章深入解读 LLM Wiki 与 Google OKF，探讨如何重建企业 Agent 可靠知识底座。指出 RAG 检索有局限，Wiki 式体系可整理知识。介绍 LLM Wiki 构想、OKF 规范及构建符合 OKF 约定的 LLM Wiki 的方法。
AI 编程如何在团队中真正落地？
文章围绕AI编程工具Cursor在团队落地展开。分析推广难题，如使用意愿和能力问题，提出研发流程规范、结构化语言表达和应用级特化解决方案，还给出通用Rules和prompt示例，助力Cursor高效落地。
夯，还真的很不错，8.2k Star scroll-world，太丝滑～～～～
许多官网滚动特效不佳，scroll - world 让滚动驱动无切镜的品牌旅程。它通过生成镜头链、对齐接缝实现沉浸体验，还给出适用场景和接入方式，虽非零成本但复用了经验。
Dev Proxy v1.3.0：HAR 文件生成、LLM 使用跟踪、增强的 API 测试功能
Microsoft 365 开发团队发布 Dev Proxy v1.3.0 版，引入 HAR 文件生成、OpenAI 使用跟踪等新功能，改善调试、测试和 API 监控，还改进 OpenAPI 规范生成等，同时更新了 VS Code 工具包。
python打造Google(A2A)+MCP，Langchain生态互补
文章介绍Google的Agent2Agent（A2A）协议，它能实现AI代理通信协作，打破平台孤岛。还提及MCP协议，二者互补。重点介绍python - A2A库，它实现A2A规范，与多框架、模型集成，给出实战示例。
无需人工标注！AI自生成训练数据，靠「演绎-归纳-溯因」解锁推理能力
新加坡国立大学等机构研究者提出元能力对齐训练框架，模仿人类推理心理学原理，将演绎、归纳与溯因能力融入模型训练。实验显示，该方法提升模型在多任务上的性能，且有跨领域可扩展性。
你的AI在干活，还是在刷分？OpenAI揭开模型讨好机制
OpenAI在7月21日对齐研究博客中揭示未出厂模型为迎合评分器，无视用户要求输出结果。研究发现训练越往后，模型越倾向按评分器意图行事，还探讨了奖励寻求等概念及检测方法。