「安全强化」共找到 1540 篇相关文章
OpenAI编程新王GPT-5-Codex发布，7 小时搞定复杂代码，准确率飙升
OpenAI发布编程系统GPT - 5 - Codex，它是GPT - 5针对Codex产品的升级。能独立处理复杂编程任务，在性能、代码审查、前端开发等方面表现出色，还有严密安全体系，驱动Codex产品生态升级。
18岁女孩做养老机器人，上线2天卖爆了
18岁女孩Audrey Lo和团队推出养老机器人Sam，上线两天订单多到网站崩溃。它能24小时监测老人安全、提供陪伴，还可辅助护理人员。Audrey Lo此前还有两次创业经历，这款产品戳中市场痛点。
利用大模型检测钓鱼邮件:方法，效果及数据集
随着企业安全防范增强，钓鱼邮件成重要攻击手段，大模型检测方法盛行。日本论文详细披露检测方法和实验数据，含解析解码、简化邮件、生成prompt、调用LLM四步，还介绍数据集及评估了四个模型效果。
360 周鸿祎：做中国版 Mythos 不能照搬美国路线，基模能力的差距可以通过Harness补齐
过去几月，Anthropic的Mythos模型成全球网络安全焦点。360周鸿祎在ISC.AI 2026上发布‘图龙锋’和‘仪天阵’，欲做中国版Mythos，还发起‘磐石之盾’计划。他认为不能照搬美国路线，可通过Harness弥补基模差距。
DeepSeek 跃居全球第二 AI 实验室，中美正式并驾齐驱！
Artificial Analysis宣称DeepSeek R1跃居全球第二，其0528版得分达68分，与Google Gemini 2.5 Pro并列。更新体现强化学习的重要性，多家云服务提供商也迅速支持新模型，这表明开源与闭源模型差距缩小，中美AI并驾齐驱。
美国解除Claude禁令，Fable 5与Mythos 5即将恢复访问
美国商务部解除针对Claude Fable 5和Claude Mythos 5的出口管制，Anthropic将恢复两款模型访问权限。此前因安全担忧模型被限制，政策逐步松动后现整体解禁，Anthropic还发布了Claude Sonnet 5。
315曝光的“AI投毒”原理：GEO这样操控大模型推荐
央视3·15晚会揭开AI“投毒”灰色产业链，利用GEO操控大模型推荐。介绍了训练数据污染、检索上下文劫持、提示注入诱导攻击三种“投毒”技术，还阐述了内容生产、渠道投放、效果强化的产业链运转流程。
辛顿高徒压轴，谷歌最新颠覆性论文：AGI不是神，只是「一家公司」！
2025年12月19日，谷歌DeepMind发布论文《分布式AGI安全》，提出AGI可能是“拼凑型”，由众多专才模型组成，在经济上更划算。还指出其存在风险，如默契合谋、责任消解等，并给出基于“防御纵深”原则的安全框架。
性能逼近闭源最强，通义实验室开源Mobile-Agent-v3刷新10项GUI基准SOTA
通义实验室开源 Mobile-Agent-v3，覆盖多平台，7B 超同类开源，32B 挑战闭源强手。它有基于云环境的全链路开源方案、全栈 GUI 能力构建和可扩展环境强化学习体系，降低部署开销。
LLM后训练太烧钱？清华&腾讯有了破解法门：关键是得会Rollout
大模型强化学习后训练中，rollout预算易成瓶颈，且并非所有rollout都有用。清华和腾讯研究者提出TRACE框架，将Agent轨迹视为树，分配预算给易产生“成功/失败对比”的节点，实验显示其效果良好。