「差分蒸馏」共找到 1051 篇相关文章
唯快不破：上海AI Lab 82页综述带你感受LLM高效架构的魅力
大语言模型性能提升但成本高，制约落地应用。上海AI Lab联合多家机构总结440余篇论文，形成82页综述，将LLM高效架构分为7类，探讨最新进展，还涉及线性化技术、硬件实现等内容。
对话张笑宇：一个科技史学者选择成为“AI降临派”｜甲子光年
科技史学者张笑宇成“AI降临派”。他以“人类当量”和成本说明人类与AI的能力代差，提出全新治理架构，还谈AI应用困境、情感陪伴风险等，认为人类要与AI商定未来。
CAG又回来了，这次它带着RAG！
文章对比CAG和RAG，指出CAG虽解决RAG部分痛点，但有根本限制，对海量变化知识库，RAG不可替代。Aurimas将二者结合做「动态混合层」效果好，还给出实施架构和关键点。
梳理SGLang中DP Attention及其Padding问题
作者梳理SGLang中DP Attention及其Padding问题。介绍DP Attention背景、流程，指出padding分max和sum模式，旧版sum padding浪费计算、影响cuda graph使用，v0.4.10后有优化，max padding仍待完善。
他救了OpenAI、年赚过亿、三家明星CTO，却自曝跟不上AI发展了！硅谷大佬告诫：不是马斯克，就别碰大模型
Bret Taylor履历丰富，曾助力OpenAI解决危机。他认为AI市场将分化为前沿基础模型、AI工具层和应用型AI三个板块，不建议普通创业者做基础模型，看好应用型AI中Agent生态。还分享创业、编程等多方面见解。
OpenAI 董事会主席：「按 token 计费」大错特错！市场终将选择「按成果付费」
OpenAI 董事会主席 Bret Taylor 参与访谈，探讨创业者在 AI 浪潮中的机会。他将 AI 市场分为三条赛道，认为基础模型创业难，应用 AI 是生路，长尾 Agent 公司或取代 SaaS，商业模式应转向按成果付费。
Claude 小升级就赢了OpenAI 9年“开源神作”？高强度推理直接歇菜、幻觉率高达50%，写作还被Kimi 2吊锤？
OpenAI发布首个开源语言模型系列gpt - oss，包括gpt - oss - 120b和gpt - oss - 20b，可在Hugging Face下载。同期谷歌Deepmind推Genie 3，Anthropic放出Claude Opus 4.1。Claude Opus 4.1编程性能提升，实测编码能力强于gpt - oss。gpt - oss虽有亮点，但幻觉率高、实测效果不佳。
Meta发布40页报告，具身智能的下一步是「心智世界模型」：能听，能看，能理解，会共情
Meta发布40页报告，首次将对人心智状态的推断概念化为心智世界模型，与物理世界模型实现“双轨建模”。还指出要结合系统A和B让AI自主学习，心智世界模型在多智能体协作潜力大。
「2025 AI 实战手册」，年收入破亿的 AI 公司都在干什么？
硅谷 ICONIQ Capital 团队发布 2025 年度「The State of AI」报告，围绕 AI 产品落地，通过问卷收集 300 家 AI 公司高管回答，从开发、定价等五方面剖析 AI 产品端到端流程，还对比了 AI 原生和赋能型公司产品发展。
争夺3500亿估值！谁会是真的“中国英伟达”
6月30日，摩尔线程和沐曦同日递交科创板IPO申请，预计未来A股将涌现近10家“中国英伟达”。这轮上市潮源于政策松动，且美国出口管制为国产GPU提供了市场窗口期，但竞争也日趋激烈。目前国产GPU营收与亏损齐飞，未来需构建生态并解决产能问题。