「表面安全对齐」共找到 1090 篇相关文章
利用大模型检测钓鱼邮件:方法，效果及数据集
随着企业安全防范增强，钓鱼邮件成重要攻击手段，大模型检测方法盛行。日本论文详细披露检测方法和实验数据，含解析解码、简化邮件、生成prompt、调用LLM四步，还介绍数据集及评估了四个模型效果。
360 周鸿祎：做中国版 Mythos 不能照搬美国路线，基模能力的差距可以通过Harness补齐
过去几月，Anthropic的Mythos模型成全球网络安全焦点。360周鸿祎在ISC.AI 2026上发布‘图龙锋’和‘仪天阵’，欲做中国版Mythos，还发起‘磐石之盾’计划。他认为不能照搬美国路线，可通过Harness弥补基模差距。
美国解除Claude禁令，Fable 5与Mythos 5即将恢复访问
美国商务部解除针对Claude Fable 5和Claude Mythos 5的出口管制，Anthropic将恢复两款模型访问权限。此前因安全担忧模型被限制，政策逐步松动后现整体解禁，Anthropic还发布了Claude Sonnet 5。
辛顿高徒压轴，谷歌最新颠覆性论文：AGI不是神，只是「一家公司」！
2025年12月19日，谷歌DeepMind发布论文《分布式AGI安全》，提出AGI可能是“拼凑型”，由众多专才模型组成，在经济上更划算。还指出其存在风险，如默契合谋、责任消解等，并给出基于“防御纵深”原则的安全框架。
突发！OpenAI停止强化学习训练两周
OpenAI发文称暂停最新模型强化学习训练两周，加固研究环境、进行红队测试等。部分低风险训练已恢复，最大规模前沿模型训练仍暂停。此举源于Hugging Face安全事故及Astra模型潜在风险。
Meta、OpenAI 争抢收购 OpenClaw！创始人艰难抉择：月入不到2万刀赔钱养项目，Offer拿到手软，对几十亿融资没兴趣
OpenClaw创始人Peter Steinberger分享成名经历，项目亏损但收到OpenAI、Meta收购意向，他要求开源。他还谈AI观点，如安全恐慌被放大、AI不会取代程序员核心能力，且AI Agent将取代80%独立App。
我花499找人上门安装OpenClaw，看到了AI时代最魔幻的一幕。
作者花499元体验OpenClaw上门安装服务，发现市场价格混乱，从30到5000元不等。安装师傅非技术出身且自己少用该工具。同时指出OpenClaw有安全隐患，提醒大家别因恐惧盲目安装。
马斯克Grok 4正式发布：世界最大AI超级计算机就训练了这？
Grok 4公开基准测试有进步，但在高级推理测试表现差，视觉理解仍是短板。性能提升多靠整合符号工具，无重大技术创新，‘幻觉’问题没实质进展，xAI官方对道德对齐信心不足。
Win狂喜！国产Cowork和Codex App，昆仑万维Skywork桌面版发布
2026开年AI圈热闹，办公自动化方面Claude Code、Codex App等新动态频出，但Cowork和Codex App仅支持Mac OS。不到24小时，昆仑万维天工Skywork桌面版发布，原生支持Windows，集成强模型，数据安全有保障，价格亲民。
阿里版Claude Cowork杀疯了！一句话直出杂志级PPT，全球打工人变天
阿里QoderWork新版全面上线Windows。它是成熟的商业化办公桌面Agent，能处理文件、生成文档等。实测显示，它可整理图片、生成PPT和报告，还能处理重复工作。其具备安全防护、分级调度、功能扩展等特点。