「输入压缩」共找到 436 篇相关文章
梳理SGLang中DP Attention及其Padding问题
作者梳理SGLang中DP Attention及其Padding问题。介绍DP Attention背景、流程，指出padding分max和sum模式，旧版sum padding浪费计算、影响cuda graph使用，v0.4.10后有优化，max padding仍待完善。
上下文工程如何重塑智能体的“思考方式”？
文章指出在大模型时代，智能体能否理解上下文是关键。介绍了上下文工程的魔力、从提示词到上下文工程的演进，分析了上下文工程不等同于上下文的原因及常见失败类型，还给出编排设计和常见策略，最后提及用RAGFlow构建私有知识问答应用。
性能比肩DeepSeek-R1，MiniMax仅花380万训出推理大模型性价比新王｜开源
MiniMax开源推理大模型MiniMax - M1，原生支持100万token输入、8万输出，性能比肩DeepSeek - R1，仅花380万训成。采用Lightning Attention机制与CISPO算法，在多领域表现出色，模型权重可在HuggingFace下载。
中学生就能看懂：从零开始理解LLM内部原理【八】｜ 什么是残差连接？
本系列是对长篇文章《Understanding LLMs from Scratch Using Middle School Math》的解读笔记。本篇介绍残差连接，指出传统多层模型有网络退化和梯度传导困难问题，而残差连接能缓解，还说明了其工作原理和可行性。
空间智能新作，影石开源户外全景重建算法
近日，Insta360 研究院联合高校提出 PanoLOG，首个面向全景输入的大规模户外三维重建工作。它解决全景分区难题，在多基准上取得领先渲染质量与小模型体积，还为户外具身智能等提供新思路。
大模型也需要睡觉！让AI打个盹，醒来更聪明
卡内基梅隆大学和马里兰大学研究发现，大模型处理长上下文易累傻。受人脑机制启发，设计睡眠机制，让模型在上下文窗口快满时打盹，反复咀嚼信息，压缩进长期权重。测试显示，增加“睡眠”轮次能提升深度推理表现。
给 AI 戴上六顶思考帽
作者探讨如何让 AI 长时间高质量输出，提出初版方案。后借助「六顶思考帽」思维法，用 Moxt 产品创建 6 个 AI 同事评审草稿，各帽给出反馈，AI 间通过文件协作，Moxt 有小问题但方向值得关注。
深度解析 OpenClaw 在 Prompt / Context / Harness 三个维度中的设计哲学与实践
文章从Prompt、Context和Harness三个维度解析OpenClaw设计思路。Prompt工程有动态组装与文件驱动特点；Context工程含可扩展技能、上下文压缩修剪及双层记忆管理；Harness工程为模型套“马具”，保障其可控运行。
大模型的第一性原理：（二）信号处理篇
本文从信号处理角度解读大模型原论文，探讨语义向量化原理，分析 Transformer 与 Granger 因果关系。指出大模型输入 Token 语义嵌入是将自然语言处理转化为信号处理问题，向量化与信号处理、信息论联系紧密。
Codex负责人打脸Cursor CEO“规范驱动开发论”！18天造Sora爆款，靠智能体24小时不停跑，曝OpenAI狂飙内幕
本文围绕OpenAI的编程智能体Codex展开，介绍其用户增长、技术突破、应用场景等情况。Codex负责人认为真正的智能体由模型、API和框架构成，它让Sora安卓应用快速上线。还谈及OpenAI文化、AI未来及对工程行业的影响。