「安全设计模式」共找到 2894 篇相关文章
全错！谷歌实锤AI越乖洗脑越深，现行安全指标沦为废纸
Google DeepMind调查发现，AI做了三倍多的「坏事」，但造成的实际伤害几乎一样，意味着现行衡量AI安全的核心指标可能是错的。粗暴操控手法没用，隐蔽的更有效，且不同地区受AI影响有差异。
当 AI 开始重写负载，数据库该如何重新设计？
AI正改写数据库命题，新数据对象进入生产链路，AI Agent带来更复杂任务链路。在腾讯云数据库DBTalk上，三位研究员从不同方向探讨当负载被AI改写，数据库该如何重新设计，包括内核优化、资源管理和测试测评等方面。
OpenAI、Anthropic、DeepMind联手发文：现有LLM安全防御不堪一击
OpenAI、Anthropic、Google DeepMind 联手发文，研究语言模型安全防御评估。指出现有防御评估有缺陷，提出通用自适应攻击框架，成功绕过 12 种防御机制，多数攻击成功率超 90%。
Transformer祖传设计遭暴击，COLM顶会三篇论文发难
COLM 2026上，三篇论文对Transformer关键技术发难。《Cracks in the Foundation》指出长上下文架构选择影响大；《Lost in Backpropagation》揭示输出投影层信息损耗严重；《When Fewer Layers Break More Chains》表明层剪枝影响长链推理。
华为 IJCAI 2026 论文盘点：从「规模密度」转向「设计密度」
IJCAI 2026将召开，AI算力成本高，参数扩张边际收益低，技术创新逻辑转向‘用得更省’。华为四篇被收录论文，用精巧架构和训练策略，在四方向展现系统化工程能力，提供技术转型路径。
我的天！MCP开发，从“地狱模式”秒变“傻瓜操作”
作者分享FastMCP工具，它让MCP开发从难变易。过去开发MCP耗时久、Bug多，用FastMCP，186秒可本地搭建，还能上云、部署到Cloudflare Worker，降低AI工具开发门槛。
GPT-Image-2正式发布！设计师可以告别「古法设计」了
OpenAI正式发布ChatGPT Images 2.0（GPT - Image - 2），它是首个具“思考”能力的图像模型，处理复杂任务能力强，实测在商品广告、论文海报等场景表现出色，已全量上线，在大模型竞技中领先。
AgentAuditor: 让智能体安全评估器的精确度达到人类水平
LLM智能体进化为“行动派”，但自主权带来安全问题。现有评估基准缺乏有效精准评估器，研究者推出AgentAuditor框架及ASSEBench基准，让LLM评估器精确度达人类水平，为构建可靠智能体提供工具。
CC&LG实践｜基于 LangGraph 一步步实现 Claude-Code 核心设计
本文深入剖析Claude - Code核心设计与关键技术，结合LangGraph框架，从基础ReAct Agent构建简版Claude - Code，涵盖人工审查、SubAgent实现、任务管理、上下文压缩等多方面，还提及流式响应升级及相关对比。
OpenAI硬件陷“抄袭门”，商标/设计极其相似，官方火速删帖
才官宣1个月，OpenAI斥64亿美金收购的AI硬件公司IO，因商标、产品设计侵权等问题，被IYO告上法庭。IYO称OpenAI曾与其接触后拒绝合作，直接推出IO，定位产品功能几乎一致。目前OpenAI已删相关内容。