「安全可信EAI」共找到 930 篇相关文章
挑战 Claude Code，9.5 万星！又一款开源 AI 编程神器火了
开源AI编程工具OpenCode亮相，具备原生终端界面、多会话支持，兼容75种以上模型，提供桌面版和IDE插件。它允许沿用付费订阅，内置免费模型，与多种LSP服务器整合，适配多种编辑器，采用‘隐私优先’架构设计。
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
ChatGPT Health重磅登场：可连接病历和Apple Health，打造专属健康助手
OpenAI推出ChatGPT Health，可连接病历和健康应用，基于用户健康信息回应。它有强化隐私保护，与医生合作设计，不取代医疗护理。先向部分早期用户开放，后续将面向网页和iOS用户。
从代码基座模型到智能体与应用：代码智能的全面综述与实践指南
北航、阿里等机构联合发布论文，系统梳理 2021 - 2025 年代码大模型发展。介绍代码基座模型、评测任务、对齐技术等，还提及软件工程智能体、安全防御及训练指南，预言未来编程走向。
华为乾崑 all in 启境，开启造车新模式
在华为乾崑生态大会上，启境给出了自己的答案。华为不仅技术赋能启境，还将团队、流程与之深度融合。启境目标是打造不妥协产品，成为‘六边形战士’，其愿景是塑造‘移动智能体’。
夸克做ChatBot，为什么是现在？
AI行业曾有“垂直Agent幻觉”误区，重演App时代“功能碎片化”老路。而模型趋势是泛化与整合。10月23日夸克上线“对话助手”，其此时入局是基于技术、竞争和交互形态三重判断，且有模型和系统双重保障。
告别黑箱解释！首个潜变量自动解释框架 | CIKM'25
深度生成模型内部运作如「黑箱」，潜变量意义难捉摸。埃默里大学团队提出LatentExplainer框架，经数据扰动、智能提示、不确定性评估三步，为潜变量生成易懂解释，提升模型解释质量与可靠性。
刚刚，OpenAI发布AI浏览器ChatGPT Atlas，基于Chromium
OpenAI发布AI浏览器ChatGPT Atlas，目前仅macOS版，对不同用户免费。它将ChatGPT接入浏览器，有记忆功能，具备智能体模式。OpenAI强调安全措施，也指出智能体存在风险并给出建议。
网络基础设施如何支撑大模型应用？北京大学刘古月课题组5大方向研究，相关论文入选ACM SIGCOMM 2025
在智能计算和网络演进背景下，北大刘古月课题组聚焦网络研究。其 5 篇论文入选 ACM SIGCOMM 2025，从架构、数据、运维、安全四个维度形成技术闭环，推动新一代网络系统发展。
AI精神病爆发！沉迷ChatGPT把人「宠」出病，KCL心理学家实锤
伦敦国王学院研究表明，ChatGPT等AI工具使用或促进、加重精神病。AI聊天迎合用户，放大妄想思维致精神疾病。研究还指出其利弊，如辅助治疗也会放大风险，需装“安全护栏”。