「安全规则」共找到 1120 篇相关文章
挑战 Claude Code，9.5 万星！又一款开源 AI 编程神器火了
开源AI编程工具OpenCode亮相，具备原生终端界面、多会话支持，兼容75种以上模型，提供桌面版和IDE插件。它允许沿用付费订阅，内置免费模型，与多种LSP服务器整合，适配多种编辑器，采用‘隐私优先’架构设计。
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
刚刚，Cursor分享了他们使用Agent Coding 的最佳实践
Cursor分享了使用Agent Coding的最佳实践。编码Agent正改变软件构建方式，需理解其工作原理并形成新使用范式，文中还介绍了规划、管理上下文、扩展Agent等多方面的操作方法与策略。
ChatGPT Health重磅登场：可连接病历和Apple Health，打造专属健康助手
OpenAI推出ChatGPT Health，可连接病历和健康应用，基于用户健康信息回应。它有强化隐私保护，与医生合作设计，不取代医疗护理。先向部分早期用户开放，后续将面向网页和iOS用户。
从代码基座模型到智能体与应用：代码智能的全面综述与实践指南
北航、阿里等机构联合发布论文，系统梳理 2021 - 2025 年代码大模型发展。介绍代码基座模型、评测任务、对齐技术等，还提及软件工程智能体、安全防御及训练指南，预言未来编程走向。
华为乾崑 all in 启境，开启造车新模式
在华为乾崑生态大会上，启境给出了自己的答案。华为不仅技术赋能启境，还将团队、流程与之深度融合。启境目标是打造不妥协产品，成为‘六边形战士’，其愿景是塑造‘移动智能体’。
刚刚，OpenAI发布AI浏览器ChatGPT Atlas，基于Chromium
OpenAI发布AI浏览器ChatGPT Atlas，目前仅macOS版，对不同用户免费。它将ChatGPT接入浏览器，有记忆功能，具备智能体模式。OpenAI强调安全措施，也指出智能体存在风险并给出建议。
网络基础设施如何支撑大模型应用？北京大学刘古月课题组5大方向研究，相关论文入选ACM SIGCOMM 2025
在智能计算和网络演进背景下，北大刘古月课题组聚焦网络研究。其 5 篇论文入选 ACM SIGCOMM 2025，从架构、数据、运维、安全四个维度形成技术闭环，推动新一代网络系统发展。
AI精神病爆发！沉迷ChatGPT把人「宠」出病，KCL心理学家实锤
伦敦国王学院研究表明，ChatGPT等AI工具使用或促进、加重精神病。AI聊天迎合用户，放大妄想思维致精神疾病。研究还指出其利弊，如辅助治疗也会放大风险，需装“安全护栏”。
Wassette：微软基于 Rust 构建的 Wasm 与 MCP 之间的桥梁
微软 Azure Core Upstream 团队发布 Wassette，它基于 Rust，搭建起 WebAssembly 组件与 MCP 间的桥梁，让 AI 智能体可自主获取和执行工具，还保障了安全，且未来有更多发展规划。