「安全设计模式」共找到 2922 篇相关文章
可攻可防，越狱成功率近90%！六大主流模型全中招 | EMNLP'25
研究人员聚焦大型语言模型（LLMs）安全漏洞，提出全新越狱攻击范式SCP与防御策略POSD。SCP基于DTD机制，在6个主流模型上平均攻击成功率达87.23%；POSD能有效抵御攻击，还提升模型泛化能力。
HAMi × NVIDIA：GPU 拓扑感知调度实现详解
HAMi社区在v2.7.0版本推出针对NVIDIA GPU的拓扑感知调度功能，解决多卡通信瓶颈。文章深入剖析其设计与实现原理，介绍核心特性、阶段及代码，用双策略寻优算法保障性能与资源健康。
RL在Agentic Reasoning中的作用：拨开迷雾，看清本质
近年大语言模型在推理任务能力惊人，但使用外部工具存挑战。传统SFT无法让模型自主调用工具，强化学习虽被引入，但在智能体推理中面临训练效率、稳定性和泛化能力难题。论文从多维度解构智能体强化学习，提出有效方法。
Mamba-3惊现AI顶会ICLR 2026！CMU知名华人教授一作首代工作AI圈爆红
Transformer有力挑战者Mamba的最新版本Mamba-3进入ICLR 2026盲审。它有三大改进，在长文本处理、实时推理和成本优化有优势。此外，FBAM也从不同角度探索Transformer下一代框架。
Meta「分割一切」3.0曝光！技能语义分割加入概念提示，好好玩，要爆了
Meta第三代“分割一切”模型SAM 3悄然投稿ICLR 2026。它支持基于概念提示的多实例分割，能听懂人话，处理图片快，还设计新架构、构建数据引擎、提出SA - Co基准，实验表现佳但也有局限。
Sam Altman自曝羡慕20岁辍学生，还直言美国难以复制微信这类“全能App”！
当地时间2025年开发者日，OpenAI推出系列开发者更新，向通用智能平台转型。会后，CEO Sam Altman接受专访，谈及新工具影响、AGI突破、智能体发展等，还表示羡慕20岁辍学生，认为美国难复制微信“全能App”模式。
AI改造出行体验：滴滴的试验能否开启行业范式转变？
滴滴近日面向公众内测上线出行AI助手小滴，颠覆传统打车模式。它能精准理解需求，提供个性化方案，还可进行时空推理和订单规划。滴滴用工程打法攻克难题，还上线MCP服务助开发者定制助手。
一周10来个模型被开源，阿里Qwen杀疯了~
阿里通义千问这周开源众多模型，如Qwen3 - Omni、Qwen - Image - Edit等，涉及全模态、图像编辑、安全审核等多领域。各模型能力出色，如Qwen3 - Omni能处理多模态输入，Qwen3 - VL表现超部分闭源模型。
Shopify 经验贴：如何搞出一个生产级别可用的 AI Agent 系统？
Shopify 以 AI 助手 Sidekick 为例，分享从简单工具调用系统演变为复杂 AI Agent 平台的经验，包括架构设计、评估方法和训练技术等方面，还给出构建生产级别可用的 AI Agent 系统的四条核心建议。
Claude用户退订潮！被指高峰期偷换缩水模型，工程师列9大罪状呼吁全网退订
Claude出现大危机，AI工程师带头呼吁退订，列9大罪状，如高峰时段偷换缩水模型等。不少用户退订，转投OpenAI Codex，其使用量激增。这也让国产模型等获更多尝试，CLI AI编程模式受重视。