「安全推理」共找到 2892 篇相关文章
上交大智能计算研究院论文：不只算对答案，大模型如何真正学会运筹建模丨ICLR 2026
上海交大智能计算研究院提出 StepORLM，通过生成式过程监督提升运筹建模可靠性。研究反思传统训练范式局限，在多数据集测试中，小参数的 StepORLM 表现超大型模型，还分析现有方法缺陷并提出解决框架，有重要方法论和应用意义。
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
蚂蚁抛弃向量推荐！用8B小模型构建「用户“话”像」，实现跨模型通用并拿下SOTA
2026年AI开发者关注爆款大模型应用，个性化是关键。蚂蚁集团和东北大学团队推出AlignXplore+，实现文本化用户建模新范式，有全域通用、极致迁移、实战适配特性，小参数超越基线，未来将继续探索。
ChatGPT Health重磅登场：可连接病历和Apple Health，打造专属健康助手
OpenAI推出ChatGPT Health，可连接病历和健康应用，基于用户健康信息回应。它有强化隐私保护，与医生合作设计，不取代医疗护理。先向部分早期用户开放，后续将面向网页和iOS用户。
裁4000人换来的AI全白搞？Salesforce悄悄改架构：用 “老技术”故障少还省钱，网友怒喊：CEO零遣散费滚蛋
Salesforce曾大举部署AI并裁员，宣称Agentforce能降本。但如今高管称不过度依赖大模型时运行更好，已引入基础自动化技术。其应用遇瓶颈，故障频发、成本高，还面临AI“漂移”等问题。
从代码基座模型到智能体与应用：代码智能的全面综述与实践指南
北航、阿里等机构联合发布论文，系统梳理 2021 - 2025 年代码大模型发展。介绍代码基座模型、评测任务、对齐技术等，还提及软件工程智能体、安全防御及训练指南，预言未来编程走向。
把 Nano Banana/Gemini 3 Pro 榨干！这几点你必须知道
Gemini 3 放出 Pro 和 Nano Banana Pro 两条线，前者主打长上下文、多模态推理，后者专攻像素级生成。文章提炼精髓，给出“通用 + 像素”双模实战笔记，介绍两者使用要点及创意场景实测。
华为乾崑 all in 启境，开启造车新模式
在华为乾崑生态大会上，启境给出了自己的答案。华为不仅技术赋能启境，还将团队、流程与之深度融合。启境目标是打造不妥协产品，成为‘六边形战士’，其愿景是塑造‘移动智能体’。
AAAI 2025 Oral | 火山引擎多媒体实验室提出VQ-Insight，AIGC视频画质理解大模型
火山引擎多媒体实验室与北大合作论文《VQ-Insight: Teaching VLMs for AI-Generated Video Quality Understanding via Progressive Visual Reinforcement Learning》入选AAAI 2026口头汇报。VQ - Insight用渐进式框架处理AIGC视频画质理解，实验表现卓越。
刚刚，OpenAI发布AI浏览器ChatGPT Atlas，基于Chromium
OpenAI发布AI浏览器ChatGPT Atlas，目前仅macOS版，对不同用户免费。它将ChatGPT接入浏览器，有记忆功能，具备智能体模式。OpenAI强调安全措施，也指出智能体存在风险并给出建议。