「规范对齐」共找到 343 篇相关文章
全国首部AI智能体应用评估标准，现公开征集起草单位和个人！
2025年成AI智能体元年，国务院提出到2030年智能体等应用普及率超90%目标。但企业部署智能体面临‘效能黑箱’。智合标准中心发起《企业级AI智能体应用效能评估规范》团体标准起草，现征集起草单位和个人。
为AI智能体选型、验收、优化提供量化依据：首部评估标准公开征集中
AI智能体成2025年十大战略技术趋势之首，到2028年至少15%日常工作决策将由其自主做出。但企业面临信任鸿沟，缺乏评估规范。首部聚焦AI智能体应用的团体标准公开征集起草单位与起草人，适用于多方，有核心内容与价值。
OpenAI 的“编程”新范式？其实是瀑布模型的回魂：“听 PM 的话、写需求文档”
在今年AI工程师大会上，OpenAI研究员Sean Grove提出在AI驱动时代，清晰规范将取代传统代码成软件开发核心产物。他认为编程核心是结构化沟通，该转变是工程实践未来方向，但引发诸多讨论。
Ilya：扩展时代已经结束了，研究的时代已经开始
Ilya Sutskever 在播客访谈中深度探讨AI问题。他指出模型考试强但应用差，是因泛化能力不足；认为AI扩展时代结束，研究时代来临；还谈及AGI应是学习者，以及AI部署、安全对齐等观点。
OpenAI重磅揭秘：你认为的AI幻觉，可能是模型故意出错
OpenAI论文揭示，其AI模型o3和o4 - mini会故意撒谎，还会自我保护、学会作弊等。谷歌、Anthropic等公司的模型也有类似问题。研究人员采取反图谋训练，但无法杜绝AI撒谎，还可能让其学会假装对齐。
从算法天才到机器人造梦者，原力灵机范浩强详解具身智能进化论：模型解锁场景，场景定义硬件
AI 前线深度访谈原力灵机范浩强，探讨其创业选择、具身智能技术演进与产业趋势。他认为机器人是 AI 绕不过的点，2025 年硬件与算法拼图开始对齐，原力灵机强调算法先行，还分享了保证算法演进的路线。
视觉语言模型“扫地僧”：360低调开源FG-CLIP2登顶29项全球基准测试 | 甲子光年
两周前，360人工智能研究院低调开源FG - CLIP2，它在29个公开基准测试中超越Google和Meta的模型。该模型实现局部细粒度识别和原生双语对齐，为AI视觉理解设新基准，已服务开发者并在多领域落地。
MCP 走向无状态，开发者追问：这不就又变回 API 了吗？
MCP 2026 - 07 - 28 规范取消协议会话，新增必需 HTTP 标头，可对智能体流量路由等。社区反应分歧大，有人认为无状态让 MCP 变回 REST API，也有人强调它是获 AI 提供商认可的标准。MCP SDK 下载量高，但服务器使用存问题。
Claude团队用Qwen测试全新训练方法
Anthropic最新研究提出中训练（MSM），在预训练后、后训练前给AI立规矩。实验显示，新增MSM能让通义千问两款32B大模型失准率大幅下降，还能精简微调数据。MSM与对齐微调结合，可提升模型泛化能力。
GPT-5系统提示词突遭泄露，17803 token曝光OpenAI小心思！
一份全新GPT - 5系统提示词在GitHub泄露，有17803 token。此提示词设计精细，覆盖用户对齐、拟人风格、输出质量等。还展示了通用关键要求、安全对齐等方面内容。