「安全可控性」共找到 925 篇相关文章
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
AIGC超新星专栏丨玩AI的小笼包：我离开互联网大厂，用AI重新定义“内容总监”
北京AIGC视听产业创新中心对话‘玩AI的小笼包’。她曾是大厂内容负责人，后投身AIGC创作。她分享了创作转型经历、‘超创’生态及工业化生产流程，也谈及技术挑战与行业发展方向。
ChatGPT Health重磅登场：可连接病历和Apple Health，打造专属健康助手
OpenAI推出ChatGPT Health，可连接病历和健康应用，基于用户健康信息回应。它有强化隐私保护，与医生合作设计，不取代医疗护理。先向部分早期用户开放，后续将面向网页和iOS用户。
深度拆解：如何在 LangChain DeepAgents 中复现 Claude 的 Skills 机制 ？
本文探讨在LangChain的DeepAgents框架复现Claude的Skills机制。先回顾Skills，它是Anthropic提出的Agent能力注入方式，有渐进式加载特点。接着介绍让通用框架支持Skills的环节，最后测试验证其效果和收益。
从代码基座模型到智能体与应用：代码智能的全面综述与实践指南
北航、阿里等机构联合发布论文，系统梳理 2021 - 2025 年代码大模型发展。介绍代码基座模型、评测任务、对齐技术等，还提及软件工程智能体、安全防御及训练指南，预言未来编程走向。
华为乾崑 all in 启境，开启造车新模式
在华为乾崑生态大会上，启境给出了自己的答案。华为不仅技术赋能启境，还将团队、流程与之深度融合。启境目标是打造不妥协产品，成为‘六边形战士’，其愿景是塑造‘移动智能体’。
刚刚，OpenAI发布AI浏览器ChatGPT Atlas，基于Chromium
OpenAI发布AI浏览器ChatGPT Atlas，目前仅macOS版，对不同用户免费。它将ChatGPT接入浏览器，有记忆功能，具备智能体模式。OpenAI强调安全措施，也指出智能体存在风险并给出建议。
网络基础设施如何支撑大模型应用？北京大学刘古月课题组5大方向研究，相关论文入选ACM SIGCOMM 2025
在智能计算和网络演进背景下，北大刘古月课题组聚焦网络研究。其 5 篇论文入选 ACM SIGCOMM 2025，从架构、数据、运维、安全四个维度形成技术闭环，推动新一代网络系统发展。
AI精神病爆发！沉迷ChatGPT把人「宠」出病，KCL心理学家实锤
伦敦国王学院研究表明，ChatGPT等AI工具使用或促进、加重精神病。AI聊天迎合用户，放大妄想思维致精神疾病。研究还指出其利弊，如辅助治疗也会放大风险，需装“安全护栏”。
Wassette：微软基于 Rust 构建的 Wasm 与 MCP 之间的桥梁
微软 Azure Core Upstream 团队发布 Wassette，它基于 Rust，搭建起 WebAssembly 组件与 MCP 间的桥梁，让 AI 智能体可自主获取和执行工具，还保障了安全，且未来有更多发展规划。