「显存压缩」共找到 303 篇相关文章
AI虚拟细胞是什么？一篇报告说清楚
本文是《麻省理工科技评论》中国发布的AI虚拟细胞（AIVC）调研报告介绍，梳理AIVC的技术框架、产业生态、发展趋势与应用前景，指出AIVC有望革新药物研发流程，压缩研发成本与周期。
Model S/X停产，这次真是资本做局
特斯拉全年财报不佳，马斯克宣布标杆车型Model S/X二季度末停产，产线改造成Optimus机器人工厂。这既因马斯克想压缩成本推廉价车，也因资本市场更看重其AI业务。
字节发现 DeepSeek 的周期性弱点，我们实测了 V4.1，结果不太一样
本文报道字节Seed团队发现DeepSeek V4基础模型因分块KV压缩存在周期性相位敏感性弱点，作者复刻实验实测现役DeepSeek V4.1-Flash，讨论了长上下文评测的盲区，新版本弱点已明显减轻。
舍弃 VAE，预训练语义编码器能让 Diffusion 走得更远吗？
纽约大学谢赛宁团队、清华&快手 Kling 团队的研究者指出 VAE 制约当前 Diffusion 范式，提出用预训练视觉模型作语义编码器改进。介绍了 VAE 不足及 RAE、SVG 工作如何解决问题，将扩散模型从‘压缩优先’转为‘语义优先’。
Langchain 、 Manus 组了一个研讨会：Agent越智能，死得越快！
Langchain工程师Lance Martin和Manus创始人Peak季逸超研讨Agent，指出Agent越智能死得越快，原因是疯狂调用工具致上下文过大。还介绍解决方案，如压缩与总结不同，Manus做减法架构更优。
小模型推理极限在哪里？微博开源3B小模型，比肩顶级闭源
微博新开源的VibeThinker - 3B小模型，将特定能力维度性能推向极限。它在数学竞赛、编程等可验证推理基准上表现优异，成绩直逼顶尖大模型。其训练流程层层叠加，还提出参数压缩 - 覆盖假说。
Meta 新成立超级智能实验室，让大模型RAG推理速度飙升30倍
Meta新成立超级智能实验室（MSL），首篇论文REFRAG将RAG推理速度提升30倍以上。它先把上下文压缩成摘要再解码，减少计算量和延迟，在多任务测试中表现出色，为大模型部署提供实用方案。
清华新框架让大模型学会「精读略读」！实现12倍端到端加速，基准评分翻倍
清华等团队提出全新框架RAM，受人类阅读认知启发，将“精读+略读”混合策略引入上下文压缩，突破现有方法效率瓶颈，在多任务上表现出色，实现12倍端到端加速，为长上下文LLM部署提供新范式。
Claude Code 强大的秘密究竟是什么？
Claude Code 强大源于其强大模型基础、丰富实用的内置工具、不压缩上下文信息及无 IDE 包袱等优势。相比之下，OpenAI 的 Codex 因模型能力、强化训练不足等落后，Anthropic 还靠亏本推广积累数据。
jina-embeddings-v5-omni 发布！全模态向量小模型
Jina AI发布`jina-embeddings-v5-omni`，将`v5-text`能力拓展到多模态。`v5-omni-small`参数量小却追平LCO - 7B，在多模态评测中表现优异，但视频是短板。其采用‘冻结 + 投影’架构，训练快、省显存。