搜索：安全开发框架

「安全开发框架」共找到 3796 篇相关文章

2篇最新Anthropic论文，揭开LLM对齐新范式

Anthropic在5月连发两篇研究，揭示LLM对齐训练新范式。指出单纯模仿正确行为不足以保证安全，需在预训练与对齐微调间插入教原理阶段。研究围绕Claude模型展开，有多项关键发现，MSM方法效果显著。

xAI前创始成员托比哥爆料，马斯克要求团队36小时内发布Grok。当时团队仅10人，面对半成品，高强度连轴转完成开发，使其走红。还提到马斯克硬核工作文化，虽压力大但成果显著。

在AI编程中，“Vibe Coding”模式在大型项目上存在弊端，易带来架构不一致等问题。规范驱动开发（SDD）应运而生，它将重心移到“定义规范”。文章介绍了SDD理念、工具、流程，还给出实操步骤与落地建议。

在工业应用中，高保真数据获取成本高，低保真数据准确性不足。本文提出基于分层神经网络的在线多保真度数据融合方法（OMA - HNN），含MA - HNN和在线渐进采样框架，经测试验证了其有效性和实用性。

新加坡管理大学等提出开源全能多智能体框架UniVA，可统一视频理解、分割等能力，按指令生成完整故事视频。还引入UniVA - Bench基准测试套件，实验显示其在多任务中表现出色，代表视频智能生成重要进步。

通用LLM Agent工业落地有短板，哈工大深圳与华为提出L1 - L5工业Agent能力成熟度框架，映射技术演进与产业场景，覆盖50+行业案例、300+评测基准，给出可量化‘爬级’路线。

OpenAI Codex团队在活动中称积极用Codex构建产品。文章介绍其7个应用场景，如理解代码、重构迁移等，还有6个使用技巧，像从提问模式开始、组织好提示等，展示了Codex在开发中的强大作用。

Anthropic 宣布完成由 ICONIQ 领投的 130 亿美元 F 轮融资，投后估值达 1830 亿美元。众多顶级投资机构参与，自推出 Claude 模型后增长飞速，业务覆盖多领域，资金将用于扩产、安全研究和国际化。

世界人形机器人运动会引发对自主机器人的讨论。波士顿动力与丰田研究院合作为 Atlas 开发大型行为模型（LBM），使其能自主完成复杂任务，研究团队展示成果并介绍模型构建流程、实践成果及研发原则。

强化学习虽提升大语言模型表现，但面临探索难题。字节跳动等团队提出FR3E框架，分两阶段重建探索机制，在多数学推理基准实验中显著优于强基线，为大模型强化学习提供新范式。