搜索：安全开发框架

「安全开发框架」共找到 3803 篇相关文章

研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现

强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。

该综述聚焦行为基础模型（BFM）在人形机器人全身控制中的应用，梳理进展并分类算法，介绍应用与限制，还探讨未来研究机会与风险，有望引导该领域研究者和从业者。

Kimi K2技术报告发布，Moonshot团队用万亿+参数稀疏MoE架构等打造接近Claude - Opus的通用大模型。围绕训练稳定性等改进，有预训练、架构设计等多方面创新，为智能体领域提供可行路径。

源自AI的「广义智能体理论」为探索「万物理论」提供新视角。它将物理、生命、AI系统纳入标准智能体框架，提出四大基本作用力或源于「智能场」，还为经典、相对、量子力学差异提供新诠释。

文章面向有一定技术基础但不熟悉大模型应用开发的读者，通俗介绍MCP、A2A和AG - UI三大主流集成协议，分别解决不同的集成难题，三者构成大模型应用集成完整生态。

METR研究实测发现，GPT等AI编程工具让顶尖程序员写代码平均慢19%，效率不升反降。开发者本预计提效24%，体验后仍觉快20%。研究还分析变慢原因，提醒勿高估AI编程能力。

OpenAI推出GPT - 4o图像生成功能，AI生图安全挑战凸显，区分生成与真实图像成难题。北大与腾讯优图研究人员用正交子空间分解解决AI生图检测泛化难题，论文被ICML 2025接收。

中山大学和华为联合提出低成本开源方案 SWE-Factory，可自动收集代码打造高质量代码评估数据集。它能解决传统构建流程繁琐、依赖人工的问题，实现全流程自动化，还构建了 SweSetupBench 数据集，表现出色。

微软首席执行官分享新发布的医疗AI系统MAI - DxO，它模型无关，能适配不同语言模型，模拟医生诊断流程。测试显示其准确率远超专业医生，成本大幅下降。此外还发布序贯诊断基准SDBench。

据彭博社消息，扎克伯格在内部备忘录宣布重组AI团队，合并到新成立的「Meta超级智能实验室」，由Alexandr Wang领导，还曝光11位从OpenAI等挖来的人才，将致力于开发Llama系列模型等。