「安全设计」共找到 2124 篇相关文章
你不知道的 Agent：原理、架构与工程实践
文章聚焦 Agent 架构中影响工程效果的关键内容，如控制流、上下文工程等。介绍 Agent 基本运转方式、控制模式，强调 Harness 比模型更关键，还阐述上下文工程、工具设计、记忆系统等要点，并以 OpenClaw 为例说明落地方法。
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
一文彻底看懂 Google 最新开源 A2UI 协议：如何让 AI Agent “说出UI” ？
本文深入解读Google最新开源的A2UI协议，它让AI Agent学会“说UI的语言”，用安全、声明式格式将UI需求发至前端渲染。文中分析Agent UI面临的挑战，介绍A2UI设计思想、工作流程，还提及它与AG - UI、CopilotKit的关系及未来展望。
全民拜龙？我看是大厂“套壳大战”搞疯了
OpenClaw是开源AI Agent框架，引发全民热潮，中国大厂纷纷推出套壳产品。国产套壳产品上手难度低，但也存在问题。傅盛基于此养出AI团队，猎豹移动市值涨24%。不过，OpenClaw存在安全问题，背后是Token入口争夺战。
ACM MM 2025 | 小红书AIGC团队提出风格迁移加速算法STD
小红书AIGC团队提出风格迁移加速算法STD。现有一致性模型在风格化任务有缺陷，文章提出从部分噪声状态出发的训练框架STD，设计轨迹状态库减轻计算负担，引入非对称对抗损失增强风格一致性，实验显示其效果优。
【一手实测】字节豆包 1.6 + Trae + 火山 MCP + FaaS：AI Agent 开发部署全流程体验！
本文作者实测字节豆包1.6系列模型，用其设计落地页，还借助Trae、火山方舟MCP等实现AI Agent开发部署全流程。测评显示豆包1.6多模态能力强，处理复杂指令效果好，价格实惠，字节AI云原生生态前景佳。
机器学习先驱Daphne Koller警告：AI制药不是魔法棒，下一代药物发现还缺1000倍数据
知名学者 Daphne Koller 在 a16z News 发文指出，AI 制药当前最受关注的进展多在分子设计，但新药研发难题在上游，疾病机制的靶点选择错误导致大量临床试验失败，且当前数据距构建完整生物学因果模型差约 1000 倍。
全国首部可信AI“技术安全+数据合规”标准来了，欢迎参与起草！
2025年国家数据局开展可信数据空间试点，在多领域落地经验。但实践中出现技术与标准等问题，中国电子商会归口、智合标准中心组织起草《人工智能大模型可信数据协作安全与合规指南》，介绍标准内容、亮点等并征集起草单位和起草人。
破解AI对不同上下⽂位置的敏感度不⼀致，新框架使出“解铃还须系铃人”
语言模型存在位置偏见，影响复杂推理等任务。论文提出Pos2Distill框架，将模型优势位置能力迁移到劣势位置缓解偏差，设计了Pos2Distill - R1和Pos2Distill - R2，在检索和推理任务表现好且有跨任务泛化能力。
谈一谈TP推理场景下MoE Group GEMM的优化思路
作者在使用H20测试SGLang CUTLASS MoE时，发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案，启动多个不同配置Kernel，依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。