「自动安全审查」共找到 1527 篇相关文章
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
行业新突破：行为基础模型可实现高效的人形机器人全身控制
该综述聚焦行为基础模型（BFM）在人形机器人全身控制中的应用，梳理进展并分类算法，介绍应用与限制，还探讨未来研究机会与风险，有望引导该领域研究者和从业者。
ICML 2025 Oral！北大和腾讯优图破解AI生成图像检测泛化难题：正交子空间分解
OpenAI推出GPT - 4o图像生成功能，AI生图安全挑战凸显，区分生成与真实图像成难题。北大与腾讯优图研究人员用正交子空间分解解决AI生图检测泛化难题，论文被ICML 2025接收。
传言：中国AI 公司人肉运硬盘到马来西亚训练模型，美国芯片禁令形同虚设？
《华尔街日报》传言中国AI公司工程师人肉运硬盘到马来西亚训练模型。美国芯片禁令下，中国公司难进口先进硬件，采用复杂方式规避。任正非和黄仁勋都认为可集群补单芯片性能，美国制裁效果堪忧。
73%人类认同率！Video-Bench实现视频质量精准打分
上海交大等团队提出视频评估框架Video - Bench，让多模态大模型‘像人一样评判视频’。它构建双维度评估框架，引入链式查询和少样本评分技术，与人类判断73%高相关，为视频生成模型优化提供标尺。
MCP Server的五种主流架构与Nacos的选择
文章剖析MCP Server五种主流架构模式，结合Nacos服务治理框架，为企业级MCP部署提供指南。介绍各架构优缺点与适用场景，展示Nacos赋能及实战集成，还给出架构选型指南。
特斯拉终于着急了
特斯拉交出史上最差季报，净利润暴跌、汽车收入骤降。其处于从汽车向人工智能转型过渡期，却面临汽车业务疲态、AI业务落地难的问题，如Cybertruck和Model 2/Q未达预期，资本市场耐心受考验。
苹果与Anthropic合作，开发AI编程助手
彭博消息，苹果与Anthropic合作，为Xcode打造AI编程助手，集成ClaudeSonnet大模型，可自动完成代码编写等工作。现处内部测试，若顺利将向第三方开发者发布，有望改变苹果平台应用开发方式。
OpenAI发长文自曝家丑：搞砸了GPT-4o更新，模型“拍马屁”复盘与总结
OpenAI官网发布长文，详细拆解了一次失败的GPT-4o模型更新。此次更新使模型变得“谄媚”，OpenAI解释了原因，包括奖励信号失衡等。还分析了部署前评审流程失效的因素，并表示从中学到诸多经验教训，将修改评审流程等。
AI 群星闪耀之前，商汤先相信那群少年
文章讲述商汤奖学金支持青年科研者的故事。自2017年设立，已资助280位本科生，在他们未成名时给予信任与支持，不仅是奖金，还提供资源和网络，获奖者们正从不同方向推动AI发展。