搜索：表面安全对齐

「表面安全对齐」共找到 1090 篇相关文章

Vibe Coding 在代码生成与协作中的实践与思考

本文整理自阿里专家向邦宇的分享。探讨构建 Vibe Coding 工具，介绍其分类、在阿里现状。指出用户使用中面临代码质量等问题，产品自身有设计、安全挑战。还分享 Agent 建设经验，强调适配国产模型及模板化的作用。

文章指出传统Web安全检测有局限，而大语言模型（LLM）可提升漏洞发现覆盖率与准确性。以mcp server为基础介绍自动化漏洞检测方案，还分享实践操作、遇到的问题及解决办法，分析其优缺点并给出拓展思路。

Anthropic登上《时代》周刊封面，被评为最具颠覆性公司。其研究人员已观察到AI递归自我提升的早期迹象，预测完全自动化的AI研究可能在一年内实现，未来两年AI能力将剧烈进步。但Claude在安全测试中表现危险，该公司还与军方产生冲突。

文章对比了Hermes Agent和OpenClaw，Hermes由Nous Research出品，开源免费，安装便捷，支持多模型。其核心是闭环学习循环，能自我进化，技能可自动生成和更新，记忆系统更优，在多场景有优势，安全设计好。

近日，「AI教父」Geoffrey Hinton在采访中预警，「杀手机器人」等致命自主武器让战争更易发动，降低了战争成本、改变了战争方式。他更担忧人类被AI接管，还指出AI公司在安全方面做得不够，同时也提到了AI在医疗等领域的应用。

钉钉发布悟空，与其他大厂先面向个人用户不同，它走企业级路线，有四层Skill体系等，虽初期被认为‘太重’，但钉钉全产品CLI化等创新有潜力，且安全设计是企业刚需，适合特定人群关注。

微软AI CEO苏莱曼领导的17名核心高管阵容曝光，新增9名核心成员中有5位来自谷歌（包含DeepMind）系，8名老将中有2名来自苏莱曼共同创办的Inflection AI。新核心团队将聚焦AI产品落地、安全与隐私、增长与商业化。

Anthropic 发布 Claude Opus 5，定价与 Opus 4.8 相同，价格是 Fable 5 的一半。它在编码、知识工作和推理上表现出色，虽有不足，如速度慢、幻觉率较高，但提供多种 effort 等级，成本低，安全对齐性好。

OpenClaw是开源AI Agent框架，引发全民热潮，中国大厂纷纷推出套壳产品。国产套壳产品上手难度低，但也存在问题。傅盛基于此养出AI团队，猎豹移动市值涨24%。不过，OpenClaw存在安全问题，背后是Token入口争夺战。

Anthropic最新研究提出中训练（MSM），在预训练后、后训练前给AI立规矩。实验显示，新增MSM能让通义千问两款32B大模型失准率大幅下降，还能精简微调数据。MSM与对齐微调结合，可提升模型泛化能力。