「语言模型压缩」共找到 8063 篇相关文章
中学生就能看懂：从零开始理解LLM内部原理【十三】｜GPT 架构如何工作 ？
本文是对GPT架构工作原理的解读。介绍了GPT与Transformer的关系，阐述其从输入文本到预测下一词概率的流水线，详述训练和推理流程，还提及GPT架构进化的混合专家（MoE）模型。
ChatGPT Images 2.0震撼发布！碾压谷歌Nano Banana，设计真要完了
北京时间凌晨3点，OpenAI发布ChatGPT Images 2.0，是先进模型，能处理复杂视觉任务。它精度控制力高、多语言能力强，风格表达成熟，支持多种宽高比，有现实世界理解能力等，已向相关用户开放，但也有局限性。
超越MLA！新架构MLRA百万token，解码最高2.8倍速 | ICLR'26
大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。
Temperature Scaling可大幅提高Test-Time Scaling瓶颈！
大型语言模型解决复杂推理问题时，测试时扩展（TTS）是提升性能的途径之一。但传统TTS依赖增加样本数量，性能提升有瓶颈。本文提出温度缩放新思路，实验表明其能大幅提升性能，还给出降低成本方法。
奥特曼亲自上阵，Images 2.0登顶王座！大米刻字，生图跨入GPT-5时代
OpenAI上线ChatGPT Images 2.0，奥特曼称其是从GPT - 3到GPT - 5的飞跃。它是首个‘会思考’的图像AI，能精准听懂中文指令、渲染复杂UI，在Arena榜单登顶，解决了多语言、风格等痛点。
AI三问：Agent、LLM、RAG，一文厘清！
文章介绍大语言模型（LLM）、检索增强生成（RAG）和AI智能体（Agent）三种架构。阐述其概念、工作原理、应用场景、优缺点，还做了横向对比，给出选用建议，最后提及混合架构与未来趋势。
云计算一哥，给 Agentic AI 工程做“减法”
2025 年亚马逊云科技 re:Invent 大会聚焦 Agent，其首席执行官提出未来各领域将运行数十亿 Agent。该公司欲在 Agentic AI 上重构，推出系列工具，如 Amazon Strands Agents SDK、Amazon Bedrock AgentCore 等，还在模型训练和工程化方面做减法。
从数据分布视角，重新认识下CoT
本文从数据分布视角重新审视大语言模型的思维链（CoT）推理。指出CoT并非真正推理，而是模仿，其效果受训练与测试分布差异影响。通过实验揭示CoT在分布偏移时性能退化，提醒勿过度依赖。
从检测到通用感知：构建空间智能的基础
本文整理自张磊在AICon 2025北京的分享，分析语言与视觉原生模型架构区别，介绍基于Transformer的物体检测算法及开集检测技术进展，如Grounding DINO和DINO - X，还探讨其在多领域的应用和潜力。
从“暴力烧Token”到“系统工程”：OpenAI与华为的两条 AI 编程路径
文章对比OpenAI与华为的AI编程路径，指出模型中心派靠推高上下文窗口但有成本高、延迟大等问题；工具驱动派如Cursor和华为云码道重构IDE工具。码道将任务解耦，通过多技术实现性价比，还介绍了底层基石及其实测表现。