「长文本推理」共找到 2825 篇相关文章
清华SageAttention3，FP4量化5倍加速！且首次支持8比特训练
清华大学陈键飞团队提出针对BlackWell架构的SageAttention3，实现5倍于FlashAttention的推理加速，首次支持8比特训练。在多种大模型上保持端到端精度，代码将分别于6、7月开源。
Claude Opus 4.7，全网差评！刚升级就翻车，用户怒斥：还我4.6
Claude Opus 4.7刚发布就遭全网吐槽，价格贵50%，性能却严重倒退，出现幻觉、计算拉胯等问题。用户质疑Anthropic为省钱缩水模型，罪魁祸首可能是新引入的“自适应推理”功能。
DeepSeek深夜炸场，开源了一个新项目&论文，V4打前站？
凌晨，DeepSeek开源新项目Engram并公开论文。Engram用可扩展的O(1) N - gram记忆替Transformer早期层节省算力，在多方面实验表现出色，如推理任务增幅大于知识任务，还分析了其机理和系统效率。
从BERT到T5再到Qwen3：关于Embedding的八点总结
哈工大30+页综述聚焦通用文本嵌入（GPTE），系统介绍其架构、数据、模型，探讨预训练语言模型（PLM）给GPTE带来的基础能力与高级扩展，还涉及多模态、多语言、代码嵌入等应用。
LLM加速利器LMCache，极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件，能降低首次响应延迟、提升吞吐量，适用于长上下文场景。它将KV缓存存于多级存储，跨服务实例复用任意重复文本的KV缓存，节省GPU算力，与vLLM结合优化显著。
哈佛《Science》研究：大模型已碾压人类医生！
哈佛医学院等团队让OpenAI o1系列大模型与数百位医生在多项测试中较量，大模型在各项诊断和管理推理任务上全面超越人类专家，不过当下模型处理非文本信号有局限。
「看」能否取代「读」，为何DeepSeek-OCR 爆火的重点不在性能？
DeepSeek近期开源的DeepSeek - OCR在AI社区引发热议。它提出‘上下文光学压缩’理念，以视觉方式压缩文本。社区关注重点在其研究思路对NTP范式的影响，有望解决长上下文经济性难题等。
Cache Me If You Can：陈丹琦团队如何「抓住」关键缓存，解放LLM内存？
普林斯顿大学陈丹琦团队新论文聚焦长上下文语言模型 KV 缓存问题。传统 KV 缓存大小随输入文本长度线性增长，此前方法难公平比较。团队提出「KV 足迹」指标，改进方法并推出 PruLong 优化内存，节省空间且保性能。
GraphRAG还在持续进化，FlowRAG让证据链自己流起来
上海AI Lab和华东师大论文提出FlowRAG，它是GraphRAG变体，把RAG检索从按相似度排文本块推向沿证据流找推理路径。在多数据集上表现不错，虽平均Relevance低于LinearRAG，但更能保证证据链完整。
1.9K Star 微软开源TTS王炸！90分钟超长语音合成，4人对话自然切换！
在文本转语音（TTS）领域，生成长篇、多说话人的高质量音频一直是技术挑战。微软最新开源的VibeVoice TTS模型，可一次生成90分钟连续语音，支持4个不同说话人，还具备高效处理长序列等亮点特性。