「形式化防御框架」共找到 1751 篇相关文章
商汤林达华万字长文回答AGI：4层破壁，3大挑战
在WAIC 2025上，商汤发布国内首个实现“图文交错思维”的商业级大模型日日新6.5。商汤科技联合创始人林达华发文，剖析多模态通用智能实践，解答AI领域关键问题，提供通往AGI的参考。
从捍卫者到引路人，上交&上海AI Lab提出LEGION：不仅是AI图像伪造克星，还能反哺生成模型进化？
AIGC技术发展使AI图像滥用问题严重，公众面临信任危机。上交与上海AI Lab等团队在论文中从构建数据集、设计模型、实现检测与生成统一三方面破局，LEGION能检测伪造，还可反哺生成模型进化。
干翻全场！OpenAI深夜发布通用Agent。
OpenAI 发布 ChatGPT Agent，将 Operator 和 Deep Research 能力融合，能在虚拟电脑完成复杂任务。它功能强大亮点多，但也存在价格昂贵、安全隐患等问题，或压缩创业公司空间。
谷歌T5Gemma重燃架构之战！「套壳」反杀Gemma本尊，9B推理快得离谱
2023年以来大模型战场由decoder - only架构主导，Google双线出击。T5Gemma重燃encoder - decoder架构战火，性能提升显著；MedGemma坚守decoder - only路线，强攻医疗多模态，击穿闭源壁垒，打响开源反击战。
告别数据「噪音」，UCSD大模型推理新方法DreamPRM充当「信号放大器」，登顶MathVista测评榜
DreamPRM由加州大学圣地亚哥分校团队开发，在MathVista测评榜夺冠。它通过双层优化框架解决多模态过程奖励模型训练难题，能与多模态大模型集成，提升推理能力，实验效果显著。
Google新研究：降低大模型幻觉的全新视角——充分上下文！
谷歌新研究《SUFFICIENT CONTEXT: A NEW LENS ON RETRIEVAL AUGMENTED GENERATION SYSTEMS》提出“充分上下文”概念，剖析RAG系统失败原因并给出解决方案，对提升企业AI准确性和可靠性有重要意义。
DeepMind 提出 CaMeL，抵御 LLM 提示词注入
谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。
评论送书 | 我用扣子（Coze），五分钟搭建出一个客服自动应答智能体
文章以设计‘产品功能咨询智能体’为例，介绍用扣子平台搭建客服自动应答智能体的全过程，包括创建项目、工作流、搭建流程框架及试运行优化，还推荐了相关书籍。
1.9K Star！给 DeepSeek Harness 装上侧边工作台，文件、终端、Git、浏览器、插件一屏搞定！
DeepSeek Harness 是 AI Agent 运行框架，自由度高但默认 Web UI 操作不便。社区插件 DSH - better - sidebar 迅速出圈，装了侧边工作台，整合多样工具，更新勤，适合折腾 DSH 的人。
迈向长程智能体，人大高瓴发布149页全景综述
新问题出现，长程智能体研究应运而生。人大高瓴发布149页综述，梳理超900项研究，从多视角给出长程智能体统一定义、分类与路线图，分析难点，提出核心论点与发展路径等。