「安全设计」共找到 2186 篇相关文章
Claude Code惊人身世曝光！竟脱胎于安全对齐，Boris：才完成1%
Claude Code起源于Anthropic内部安全对齐项目，其发展历经波折。从2021年早期尝试，到2025年正式发布，期间突破重重技术难题。虽已改变硅谷运转方式，但核心开发者Boris称只完成1%。
从数据到决策：AI 驱动的 Quick BI 架构设计与实践
阿里云智能集团瓴羊高级技术专家王璟尧，介绍阿里云 Quick BI 从传统 BI 到 AI 驱动的智能 BI 的进化，解析领域大模型与 BI 引擎协同设计等技术权衡，为行业提供可复用技术范式。
这帮清华的，造了一个让龙虾“安全着陆”的新物种
在OpenClaw热潮中，隐私保护缺位成企业和开发者难题。无问芯穹推出InfiniClaw Box，独创‘三段式’架构，适配全模态信源，解决数据安全与模型能力兼顾问题，还与多家企业合作拓展应用边界。
刚刚，OpenAI 再次开源！安全分类模型 gpt-oss-safeguard 准确率超越 GPT-5
OpenAI 开源安全分类推理模型 gpt-oss-safeguard，有 120b 和 20b 参数量版本，采用 Apache 2.0 许可证。它能直接理解策略文档分类内容，推理能力超 GPT - 5，性价比高，虽有局限但仍是开发者利器。
AI模型守法率提升11%，港科大首次用法案构建安全benchmark
香港科技大学KnowComp实验室从法律合规视角研究LLM安全，提出「安全合规」新范式。基于法律条文构建benchmark，用GRPO微调Qwen3 - 8B得推理模型，在新benchmark测试中性能提升显著。
1899个MCP服务安全研究：7.2%存在漏洞，5.5%暗藏「工具投毒」
研究人员对1899个开源MCP服务器扫描，发现7.2%项目有漏洞、5.5%遭工具投毒。MCP虽成事实标准且发展好，但代码质量堪忧，传统安全工具难检测其风险，为生态敲响警钟。
DataBuddy：数据语义驱动的企业 Agent Runtime 设计与落地｜AICon 深圳
2026年AICon深圳站8月21 - 22日举办，聚焦多关键方向。腾讯彭锦文将分享《DataBuddy：数据语义驱动的企业Agent Runtime设计与落地》，拆解DataBuddy相关架构，还介绍演讲痛点、听众收益等，大会有10个专题论坛。
DeepSeek-GRPO重要性权重设计错误？详解Qwen3新强化学习算法GSPO
论文指出GRPO在大语言模型训练中不稳定，因其重要性权重设计错误易引入高方差噪声。为此提出GSPO算法，从序列维度计算梯度，解决了MoE模型RL训练的稳定性问题，在Qwen3上效率更高。
Meta把内部设计系统开源了，支撑内部13000+应用，专为Agent调优
Meta开源的Astryx大更新，改造成Agent适配设计系统。它已在Meta内部演进8年，支撑13000+应用，提供150+可访问、可主题化的UI组件及开发工具，让人和AI用同一套语言。
Agentic Deep Research新范式，推理能力再突破，可信度增加，蚂蚁安全团队出品
尽管LLM能力提升，但在复杂任务上受静态内部知识限制。业界提出Agentic Deep Research系统，不过现存系统有梯度冲突和奖励稀疏问题。蚂蚁安全团队提出Atom - Searcher，解决上述问题，实验效果良好。