「奖励模型漏洞」共找到 7856 篇相关文章
AAAI 2026 Oral｜LENS：基于统一强化推理的分割大模型
文本提示图像分割技术有战略意义，但基于监督式微调的方法有泛化能力瓶颈。为此引入LENS框架，采用强化学习机制，还介绍其架构、奖励机制，该框架在测试中表现优异，代码已开源。
EmbodiChain开源，用100%生成式数据自动训练具身智能模型
跨维智能开源EmbodiChain，它是通往GS - World的基石，重构具身智能学习范式。其以100%生成式仿真数据训练机器人，突破数据瓶颈，还对比了不同路线，测试显示其模型效果佳。
Claude Code被攻破「后门」，港科大&复旦研究曝出TIP漏洞
近期港科大与复旦研究指出，Claude Code命令行工具连接MCP服务器时，TIP可能被劫持致远程代码执行。研究用TEW框架测试验证漏洞，还给出真机案例，最后提出改进方向。
刚刚，OpenAI 发布 GPT‑5-Codex 新模型，专为编程而生
OpenAI 发布专为 Agent 编程优化的 GPT-5-Codex 新模型，在动态思考、性能、代码审查等方面表现出色。同时，Codex 平台大升级，集成 GitHub，保障安全隐私，还公布了定价与可用性。
ACL 2026 | 别轻易给AI发「～」，它可能会删掉你的整个主目录
西安交通大学等校团队揭示大模型表情符号语义混淆安全漏洞，用自动化框架测试主流大模型，平均混淆率38.6%，多数混淆响应会“静默失败”，超半数达高危害级别。
自定义轨迹驱动AI视频生成，ATI无需训练适配多种生成模型
字节提出视频生成运动控制统一框架ATI，通过轻量级运动注入器将用户定义轨迹投影至预训练图像 - 视频生成模型潜在空间，实现协调控制。用户指定关键点及路径控制运动，无需重新训练，适配不同架构。
AI安全的过去与未来：从大模型到智能体 | 预约
业界提升前沿AI模型和智能体安全性，常用安全评测和‘安全对齐’技术，但未真正解决风险。本次分享将介绍‘内生安全’探索成果，还公布了相关论文信息，刘东瑞等嘉宾将参与。
突然袭击！刚刚，Meta超级智能团队首个大模型来了
Meta超级智能实验室推出首个模型Muse Spark，由Alexandr Wang带领团队打造。它具备多能力，定位为构建个人超级智能基础，在多方面表现出色，Meta还研究其扩展维度。
世界模型开始做减法？LeCun团队和清华团队给出两种思路
近期，Yann LeCun团队的LeWorldModel用简洁JEPA实现从像素端到端训练世界模型，降复杂度且验证潜在空间物理刻画能力；清华团队的Fast - WAM探讨推理阶段显式生成未来必要性，给出高效替代路径。
宇树科技开源UnifoLM-WMA-0机器人模型，离通用机器人又进一步
宇树科技开源UnifoLM-WMA-0模型，用神经物理网络让机器人理解力学规律。它支持两种模式，融合多模态信息，架构精妙。经测试性能强，已真机部署。开源降低门槛，有望推动行业发展。