「Agent安全」共找到 4531 篇相关文章
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
OpenClaw引爆的AI Agent浪潮中，终于有芯片给端侧“解渴”了
OpenClaw让AI Agent成产业竞赛焦点，但云端方案算力、成本和安全问题凸显。瑞芯微推出端云协同方案ClawChips，采用算力解耦架构，在成本与场景适配间找平衡，还开源并提供开发套件借用权益。
让AI自己设计芯片！中国科学院发布「启蒙」，芯片全流程自动设计
近日，中科院计算所联合软件所推出「启蒙」系统，基于AI实现处理器芯片软硬件全流程自动设计，达到或部分超越人类专家水平。该系统在多方面表现出色，如设计的CPU达ARM Cortex A53性能等。
DeepSeek识图模式全量上线，却认不出自家老板梁文锋
端午节前，DeepSeek全量推送识图模式。测试发现，它能认出黄仁勋，但忽略‘豆汁’字样，识别人物和潦草汉字准确率低，不过识别文物能力不错。还比较了与其他模型在乐理推理测试中的表现，开发者有新疑问待解答。
一款好的 AI Native 硬件，硬件只是脚手架，真正壁垒一定是 Agent
奇朵团队创始人黄勇认为，做AI原生儿童硬件，应先定义场景或内容驱动的Agent，再为其打造硬件。他们推出面向6 - 12岁国内儿童、3 - 8岁海外儿童的相机与闪卡形态产品，通过与IP合作搭建可信任知识底座。
告别先开发后治理：Agent 驱动的数据质量一体化交付
文章指出离线数据开发中数据质量建设面临开发与治理分离的困境，如治理滞后、迭代不同步等。DataWorks引入Data Contracts理念，以YAML Spec形式将质量规则嵌入开发流程，还可借助Agent配置规则，未来将多引擎覆盖、降低门槛并融入IDE。
Agent接管EDA工作流，不只写脚本！浙大打通真实芯片设计闭环
大模型正以Agent形态进入真实EDA工具链。浙大卓成团队构建OpenClaw + FluxEDA联合架构，打通关键链路，解决模型操作真实EDA工具的难题，在多任务中完成连续分析与优化闭环，推动EDA工作流范式转变。
独家 | 华为19级天才少年赵立晨离职创业，瞄准具身 Agentic OS
AI科技评论独家获悉，前华为天才少年、19级技术专家赵立晨2026年3月离职，加入杭州拉格朗日具身技术有限公司。该公司聚焦具身智能架构研发与硬件规模化落地，赵立晨想做的Agentic OS是具身产业化的基础设施。
Palantir 创始工程师深度分享：FDE 模式是 Agent 时代的 PMF 范式
本文编译前 Palantir 高管 Bob McGrew 对 FDE 模式的思考。FDE 团队填补产品与客户需求差距，交付有价值成果。在 AI Agent 时代，因产品需大量探索且要从企业内实践出发，FDE 或成创业公司新范式。
OpenAI：如何用 Codex 在 28 天内极速打造安卓版 Sora
OpenAI发布工程博客，揭秘用Codex不到一个月打造Sora安卓版应用的过程。这款应用上线首日冲至Google Play下载榜第一，24小时内用户生成超百万视频，开发过程耗约50亿tokens，崩溃率仅0.1%。