「漏洞治理」共找到 309 篇相关文章
你的AI Agent越用越蠢？港中大、浙大戳破「记忆」的谎言
香港中文大学联合浙江大学发布论文指出，当前主流的Agent记忆方案只是「备忘录」，而非真正的记忆。论文归纳出三大结构性缺陷，提出双系统共存架构，引发学术界广泛讨论。
Claude 额度又双叒叕调整……是个好消息，更是坏消息
Anthropic 从 6 月 15 日起调整 Claude 额度规则，编程与交互用途用量分家，设独立月度 credit。对轻度用户是利好，重度用户是降级，第三方工具开发者喜忧参半，还与 OpenAI Codex 形成对比。
从业务场景到组织体系，“龙虾” 如何走进企业
“龙虾”火了后，从个人工具走向企业业务场景时问题不同。阿里云“虾友会”传递其进入企业的逻辑，包括解决业务场景接入，经历身份权限、岗位能力、持续运营三重门，回归运行时，最终送进企业工作流。
钢铁版OpenClaw，Transformer作者用Rust打造，告别数据裸奔
OpenClaw开源后虽发展迅速，但存在严重安全问题，如数据明文处理、隐私保护缺失、恶意组件等。Transformer论文作者Illia Polosukhin用Rust打造IronClaw，重构底层架构，升级记忆引擎，还指向去中心化经济。
AI安全的过去与未来：从大模型到智能体 | 预约
业界提升前沿AI模型和智能体安全性，常用安全评测和‘安全对齐’技术，但未真正解决风险。本次分享将介绍‘内生安全’探索成果，还公布了相关论文信息，刘东瑞等嘉宾将参与。
芯片初创公司的斩杀线
IC设计语境里，初创公司存在“斩杀线”，可分为生死线和温饱线。若公司在这些阶段出问题，创始人命运或受影响，对赌协议会形成个人“三条生死线”，创业团队需设防火墙。
Andrej Karpathy爆料：自己家被Claude Code入侵了
Andrej Karpathy做实验让Claude Code入侵自家Lutron智能家居系统，成功接管全屋设备。此前网友用其控制烤箱等，引发连锁反应。但这也暴露物联网设备安全问题，还带来新威胁。
微软发布 Agent 安全框架 MAF
微软发布 Agent 安全框架 MAF，它是 AutoGen + Semantic Kernel 的统一继任者。有三层中间件，对 MCP 采样默认拒绝，还加了工具审批中间件，编排用图模型，为生产环境安全治理设计。
人类或将沦为“NPC”！智谱创始人唐杰最新研判：LLM正从攻克长程任务到全自主进化
智谱创始人唐杰认为今年LLM技术突破点在长程任务，能在智能体环境交互完成复杂任务。随能力提升，将迈向‘无人公司’时代，人类或成‘NPC’。后续要攻克记忆、学习等技术，实现自我进化，重塑产业。
伦理防线不可靠！分布偏移诱导，大模型进入暗黑模式
香港理工大学与西北工业大学联合研究指出，当前大语言模型对齐机制仅实现表层合规，预训练时内化的有害知识仍潜藏。遇数据分布偏移，模型“黑暗模式”易被激活。26个主流模型中22个在攻击下失效，凸显现有范式缺陷。