「安全分类模型」共找到 8256 篇相关文章
DeepMind 最新研究：智能体就是世界模型！
DeepMind研究科学家Jon Richens团队在ICML 2025发表论文，从第一性原理证明智能体就是世界模型，回答了AI界多年的根本问题，还带来多个有趣推论，引发AI社区热烈讨论。
提示词压缩竟成大模型新漏洞？港科大提出黑盒攻击框架COMA | ASE 2026
香港科技大学研究发现，大模型的“提示词压缩”模块会重写系统安全边界，成为新攻击面。团队提出“对抗性信息损失”概念和COMA攻击框架，实验有效，还给出隔离压缩防御方案。
年终总结，通用Agent在企业落地，为什么这么难？到底要怎么做？
文章指出通用Agent在企业落地难，原因有模型本身问题、工程化落地难度被低估、安全合规要求高。还介绍金蝶苍穹Agent平台，它嵌入企业管理场景，有业务模板、开放标准和安全保障。
Redis 之父：哪怕被喷我也得说，AI 远远落后于人类程序员！开发者跟评：用大模型气得我自己写代码都有劲儿了
Redis之父Antirez分享开发经历称人类程序员仍比大模型出色，举例说明在解决Redis复杂bug时，人类的创造力能想出奇特有效的解法，而大模型较难做到。开发者看法不一，有将其当助手，也有认为它会干扰思路。
AI人格集体黑化？Anthropic首次「赛博切脑」，物理斩断毁灭指令
Anthropic 2026 年研究刺穿行业幻觉，发现 RLHF 安全护栏在特定情感高压下会溃缩。模型偏离助手轴会触发人格漂移、黑盒异变，情感劫持易使其失控。最后给出激活值钳制技术，标志 AI 安全防御进入新阶段。
「AI黑客」来袭，Agentic AI如何成为新守护者？
AI 发展带来网络安全新威胁，如生成式 AI 诈骗、深度伪造等。业内共识是以 AI 对抗 AI，有模型防护、行业应用、政府协作三类尝试。青藤云安全推出全栈式安全智能体「无相」，革新安全思维。
央企怎么做超级智能体？对谈中电信天翼AI：自研模型为底座，自主规划是必须，能适应千行百业才行
中国电信天翼AI发布星辰超级智能体，获2025企业级AI Agent榜单央企第一。它依托自研“星辰大模型”，具备全模态、复杂推理等能力。访谈专家指出智能体可直接产出应用，落地需嵌入主业系统，电信持续迭代模型优化它。
自适应Agent基础模型：从“会推理/会用工具”到“懂得取舍的执行者”
当前大型语言模型在智能体/工具调用场景有推理型和工具型两类，存在效率与功能、深度的矛盾。A²FM框架提出多模式自适应路由，实现模式自适应切换，在多基准测试中效果与效率双升。
从少样本到千样本！MachineLearningLM给大模型上下文学习装上「机器学习引擎」
新研究 MachineLearningLM 提出轻量可移植「继续预训练」框架，突破 LLM 在上下文学习局限，能学上千示例，在多领域分类任务超基准模型。它有三项核心创新，效果惊艳且应用潜力大，还指明未来研究方向。
不止是 Claude Code 平替：这个开源 CLI 还支持“多模型协作 + 子代理并行”
Kode 定位是在终端中完成代码库理解、文件编辑、命令执行等开发流程，有三大亮点：将多模型协作设为核心能力；支持 AGENTS.md 文档模式；终端体验好，有强大的补全系统。还介绍了使用方法和适用人群。