「防御层」共找到 408 篇相关文章
阿里 Qoder 把这层 AI 编程的窗户纸捅破了
2025年大模型下沉到应用层，浏览器和编程工具被重新发明。阿里新发布的Agentic编程平台Qoder，增强对巨大代码工程理解能力和代码生成准确率，其上下文工程观是突破，新引入的Quest Mode很独特。
ICLR 2026 | ProSafePrune：一剪见效，告别大模型过度防御
合肥工业大学与科大讯飞联合团队提出全新低秩参数修剪框架 ProSafePrune，被 ICLR 2026 录用。它能精准定位模型认知偏差并修剪，降低过度拒绝率，不损安全防御能力，还提升通用任务性能，为 LLM 安全部署提供新思路。
Harness Engineering 实践：Fitness Function 如何成为 AI 交付的防腐层
文章探讨 Harness Engineering 实践中，Fitness Function 如何成为 AI 交付防腐层。指出在 AI Agent 参与开发时，判断任务完成是难题，介绍 Routa 项目构建 Fitness 架构及规则执行等实践。
Harness Engineering 的防御视角：从 Codex Security 看 AI 生成代码的治理
作者用 Codex Security 分析项目，发现它不仅列漏洞，还提供攻击路径等。AI 没创造新漏洞，却放大缺陷，需新方式治理大规模自动生成代码，Harness Engineering 有防御价值。
Transformer祖传设计遭暴击，COLM顶会三篇论文发难
COLM 2026上，三篇论文对Transformer关键技术发难。《Cracks in the Foundation》指出长上下文架构选择影响大；《Lost in Backpropagation》揭示输出投影层信息损耗严重；《When Fewer Layers Break More Chains》表明层剪枝影响长链推理。
首篇具身智能机器人「安全」综述：LLM如何跨越物理鸿沟？
最新综述首次系统探讨LLM控制机器人的安全威胁、防御机制与未来挑战，指出LLM的具身鸿沟导致其在物理空间可能执行危险动作，而现有防御体系存在逻辑与物理脱节等问题。
大模型训练的不稳定性有望彻底解决，MIT新研究用谱正则化替代层归一化
MIT团队创造Lipschitz Transformer，用谱正则化替代层归一化，认为或解决训练不稳定根本原因。他们对比多种方法权衡，发现Muon + 奇异值裁剪推动权衡边界，且工作完全开源。
mem0推出王炸mcp工具OpenMemory，打造用户私有、跨应用的共享记忆层
mem0项目推出OpenMemory MCP，这是专为兼容MCP的AI客户端设计的私有记忆层，能解决跨AI工具的Context共享问题。它强调隐私和本地控制，功能实用，获用户积极反馈。
「说 Harness 会被淘汰的，肯定没做过工程」，Kimi 前 CLI 负责人戳破了 AI 圈最大的误解
AI编程圈两极分化，围绕底层Harness是否消失争议不断。前Kimi CLI负责人stdrc提出反常识观点，认为模型越强Harness越厚，复杂度从“能力层”转移到“协作层”，还以Kimi CLI实践及Raft创业为例阐述。
3 天上了两个 SOTA 模型，视频 Agent 们接得过来吗？
7月31日MiniMax H3和字节跳动Seedance 2.5同日发布，3天后H3开源，8月7日Seedance 2.5开放api。模型变强使产品层要做的事更多，视频Agent需解决生产问题，竞争走向模型层之上。