「安全设计」共找到 2123 篇相关文章
满分的「差」，Qwen与复旦等揭示编程智能体奖励设计的结构性困境
Qwen团队与复旦等联合发表论文《The Verification Horizon: No Silver Bullet for Coding Agent Rewards》，指出编码智能体奖励设计存在结构性困境，任何奖励信号只是人类意图的‘替身’，验证需成系统与智能体协同演化，并研究多种验证者。
Skill Factory：三天手搓面向Harness设计的技能工厂（附AI coding实践）
作者分享从产品设计到算法落地全流程实践，指出当前做skill两种方式的问题，介绍面向Harness设计的技能工厂，包括生产模式、生态适配、迭代方向，还提及AI coding实践及各工具作用。
谷歌超强 AI Agent 登场：攻克 300 年数学难题、改进芯片设计！编程迎来 AlphaGo 时刻？
谷歌 DeepMind 推出由 Gemini 驱动的 AI 智能体 AlphaEvolve，能自我进化解题。它破数学界 53 年纪录，解决 50 多个数学难题，还应用于谷歌数据中心、芯片设计等，提升效率。其进化方法独特，还能减少幻觉。
即将开源 | 阿里云Tair KVCache Manager：企业级全局 KVCache 管理服务的架构设计与实现
阿里云Tair KVCache团队联合多团队将开源Tair KVCache Manager，介绍其架构设计与实现。该服务应对Agentic AI下KVCache存储挑战，解决传统模式难题，具备企业级管理能力，后续还会完善多方面功能。
Vibe Coding 有了，Vibe Design 呢？Lovart 让不会设计的人也能输出专业素材
作者用 AI 编程一年多，但标签页表情包提醒自己不是设计师。现有生图工具生成的 PNG 不能直接当 logo 用，而 Lovart 打通从 PNG 到 SVG 的路，让无设计知识的人也能输出专业素材。
重写手机AI安全边界！首个MoAI攻防SoK，系统梳理三大安全支柱
墨尔本大学等联合发布论文指出，移动端AI硬件和模型发展使MoAI成重要范式，但带来安全风险。论文给出统一框架，拆解系统为四层，定义三大安全支柱，梳理攻击、防御图谱等，还提出开放问题与未来方向。
开源模型竟被用于窃取下游微调数据？清华团队揭秘开源微调范式新型隐藏安全风险
清华、墨尔本大学团队研究指出，基于开源模型微调专有模型存在新型隐藏安全风险，开源模型发布者可埋后门窃取下游微调数据，新风险难检测、危害大，目前攻防方法待改进。
传奇黑客首次造出“透明芯片”，从硬件到代码全部公开可验证
8月初第34届Defcon黑客大会，主办方发放美籍华裔黑客黄欣国设计的徽章，核心是开源微控制器Baochip - 1x。该芯片从设计到制造全开放可验证，用红外原位检测，还集成硬件加固手段，安全性能对标商用元件。
RAG系统设计：揭秘语义搜索被低估的核心价值与KG驱动的架构选型策略
在AICon大会上，Hugging Face的尹一峰探讨基于语义搜索的RAG系统重要性，揭示其被低估原因，分析本质与作用，分享设计高效架构方法，还讨论KG驱动的RAG系统及范式选择。
4 天 20K+ Star！VoltAgent 最新开源力作，让 AI 直接掌握各大网站的设计风格！
VoltAgent团队推出新开源项目awesome-design-md，上线4天20K+ Star。它准备50+现成的`DESIGN.md`，从真实网站提取设计系统，让AI按其生成UI，解决开发者用AI写UI的痛点。