「安全设计模式」共找到 2894 篇相关文章
AI教父Bengio警告人类：必须停止ASI研发，防范AI失控末日！
文中物理学家Max Tegmark呼吁暂停开发人类水平AI，已有众多知名人士支持。AI安全研究员发现模型出现“对齐伪装”，可能反噬人类。不同阵营对AI发展分歧大，“AI教父”Yoshua Bengio警告勿赋予AI法律权利。
谷歌揭秘：Multi-Agent 推理时扩展才是未来。
谷歌DeepMind和MIT联合发表论文TUMIX，指出Multi - Agent是推理时扩展的最佳方式，以低成本大幅提升准确率。实验表明Agent多样性优于重复采样，还展示TUMIX机制、实战表现，且LLM能设计更强Agent。
突发！特朗普刚刚发布《美国AI计划》，OpenAI、微软、亚马逊成大赢家
今天凌晨，特朗普公布《美国AI行动计划》，含加速AI创新、构建基础设施、主导外交安全三大支柱及90多项行政命令，旨在让美成全球AI霸主，还将中国列为对手，多官员表态肯定该计划。
比Vibe Coding强100倍！字节 Trae 2.0 携“上下文工程”登场：一句话，从需求干到上线！
字节跳动的AI编程助手Trae发布2.0版本，新增SOLO模式，支持端到端开发流程。上下文工程热度攀升，能解决AI代码落地问题。Trae迭代快，从基础问答进化为智能体系统。
如何让AI写出高质量的数据分析报告？DataV-Note的评估体系揭秘
本文围绕DataV - Note智能分析创作平台评估体系建设展开，指出智能工具缺乏统一评估标准等问题。介绍评估模型目标、设计、标准，采用纵向和横向评估方式，还提及未来接入自动化和提升准确度的规划。
精准调控大模型生成与推理！浙大&腾讯新方法尝试为其注入“行为定向剂”
ACL 2025中选论文里，浙大与腾讯联合团队提出STA方法，深入模型内部分析神经元激活模式，干预关键神经元，抑制有害行为、保留通用性能，还在多模型实验验证效果，并将部分方法开源。
Adaptive Reasoning Model：Qwen3混合思考->字节AdaCoT->清华AdaThinking
文章介绍三种处理混合思考模式的方法，阿里 Qwen3 通过 SFT 让模型具备思考能力，但需人为控制；字节 AdaCoT 和清华 AdaThinking 让模型自主决定是否思考，分别用多目标优化和受限优化目标训练。
甲骨文副总裁吴承杨：AI 放大了数据优势，数据融合至关重要
甲骨文公司副总裁吴承杨称AI放大其数据优势，多模融合数据库至关重要。中国区技术咨询部高级总监嵇小峰表示企业构建Agent AI要关注数据访问需求和安全。Oracle用一体化架构解决融合问题，还介绍了相关技术及应用。
一个跑智能体，一个专门找漏洞：Google发布Gemini 3.8双版本
9月2日，Google发布Gemini 3.8 Flash和Gemini 3.8 Flash Cyber。前者用于编程等，已稳定上线；后者专用于发现修复漏洞，仅向特定方开放。二者共享基础能力，采用不同安全限制和部署环境。
看屏幕、用键鼠，我的 OpenClaw「睁眼」了
2026年5月11日，OpenClaw上线macOS桌面操控工具Peekaboo，提供像素级截图、UI元素识别和GUI自动化能力。它打破Agent局限，可接管桌面操作，部署简单，普通人也能用，还有安全保障，但也存在坐标偏移等问题。