「推理缓存优化」共找到 3043 篇相关文章
训练MoE足足提速70%！华为只用了3招
Scaling Law下，MoE成扩展模型能力法宝，但训练难题凸显。华为构建Adaptive Pipe & EDPB优化方案，还打造DeployMind仿真平台，解决了MoE训练中通信等待、负载不均等问题，使训练吞吐提升72.6%。
除了AGI已来和死亡，我们为黄仁勋重磅访谈总结了50条AI最前沿判断
2026年3月23日黄仁勋在播客访谈提出众多前沿判断，如AGI已来，Agent时代开启；智能会成商品，人性才稀缺；推理成本高；合成数据非旁门左道等，还谈及公司架构、算力、供应链等话题。
老黄大出血！OpenAI背刺英伟达，微软自研芯连夜拆掉CUDA护城河？
2026年1月26日微软官宣第二代自研AI芯片Maia 200上线，还推出软件Triton。它塞满SRAM，推理成本更低、效率更高。这让英伟达面临生存危机，AI算力圈也变天，降本成关键。
GPT-5.2 上线！全面超越 Claude Opus4.5 及 Gemimi 3.0 Pro
OpenAI 正式宣布 GPT-5.2 全面上线，一口气推出三个版本。GPT-5.2 Thinking 在推理能力上拉开代差，是 OpenAI 首个达人类专家水平的模型。各版本定位清晰，不同用户使用时间有别。
vLLM 正式支持 PaddleOCR-VL
11月4日，vLLM项目宣布正式支持PaddleOCR-VL模型。该模型专注文档解析，参数量仅0.9B。合作降低部署门槛，推理效率更高，官方还给出部署指南和配置建议，流程快速完成可作榜样。
VDC+VBench双榜第一！强化学习打磨的国产视频大模型，超越Sora、Pika
复旦大学等机构将强化学习引入视频生成领域。提出的Cockatiel方法在VDC榜单夺冠，IPO方法在VBench登顶，超越Sora、Pika等模型，优化后视频生成效果在多方面显著提升。
一周1.2k星！兼具质量与效率的OCR模型MonkeyOCR，支持多样化的中英文PDF
MonkeyOCR采用SRR三元组范式，简化多工具流程、避免整页文档处理低效问题。与MinerU、端到端模型相比性能更优，处理速度也更快。暂不支持拍摄文档解析，文章还给出安装、推理等操作步骤。
从零开始200行python代码实现LLM
文章从传统思路出发，用Python实现极简大语言模型，介绍从零基础到Bigram模型的过程，包括词汇表、模型训练推理等内容，还讲解了PyTorch基础，最后实现pytorch版Bigram模型，后续将实现完整GPT。
阿里又上好货了！Qwen3-TTS能力大幅提升
阿里刚发布Qwen3-TTS（2025-11-27版），解决语音合成核心问题。它音色大幅扩展，有49种高品质音色；语言和方言能力提升，支持10种主流语言与多种方言；韵律和语速优化，拟人化近真人；API调用简单。
ICLR 2026 Oral | 让大模型学会“像法医般思考”，实现可解释、可泛化的深度伪造检测
生成式AI发展使深度伪造技术安全隐患受关注，现有检测器表现不佳。中科院自动化所联合蚂蚁集团提出Veritas框架，构建HydraFake数据集，赋予大模型“模式感知推理”能力，实验效果超现有检测器，还给出未来研究方向。