「运算速度」共找到 652 篇相关文章
The Batch: 939 ｜在推理阶段学习长上下文
大型语言模型处理长上下文时通常准确性降低、速度变慢，研究人员提出TTT - E2E方法，通过推理时训练模型将上下文压缩到transformer权重中，还展示了其运作方式、测试结果等。
奥特曼点评中美AI牌桌：美国猛攻前沿，中国凭“两张王牌”错位竞争
OpenAI CEO 萨姆·奥特曼在贝莱德峰会上指出，从 o1 到 o3 模型，复杂推理成本降 1000 倍，2028 年末数据中心 AI 认知能力或超人类。他还拆解中美 AI 竞争，美国前沿领先，中国旧模型推理成本控制和基建推进有优势。
原来Grok是36个小时极限卷出来的！xAI创始成员离职后放开说了
xAI前创始成员托比哥爆料，马斯克要求团队36小时内发布Grok。当时团队仅10人，面对半成品，高强度连轴转完成开发，使其走红。还提到马斯克硬核工作文化，虽压力大但成果显著。
3D-AIGC 存储架构演进：从 NFS、Gluster 到 JuiceFS
光影焕像在 3D-AIGC 存储上，因三维模型数据量大、格式多，对存储要求高。经探索，从 NFS、GlusterFS 到最终选 JuiceFS，搭建统一存储平台，管理上亿文件，提升处理速度，简化运维。
阿里 Qwen3-TTS 两大更新直接封神！支持跨物种音色克隆，3 秒复刻！
阿里通义上线 Qwen3-TTS 两大核心能力，VoiceDesign 支持全文本控制音色特征，VoiceClone 能 3 秒音频跨语言、跨物种克隆音色。更新指标亮眼，如 0.1 秒级生成速度等，还可上手体验。
DeepSeek倒逼vLLM升级！芯片内卷、MoE横扫千模，vLLM核心维护者独家回应：如何凭PyTorch坐稳推理“铁王座”
本文介绍了vLLM的发展，自开源后成科技公司首选推理引擎。因DeepSeek发布，团队转向其模型特性优化；还参与各芯片支持工作。vLLM靠PyTorch支持多硬件，同时拓展到多模态推理，面临竞争仍保持优势。
GPT-5.2刚发布就要被网友玩坏了~
11月19日Gemini-3-pro发布，一周抢1200万用户，OpenAI市值受威胁，GPT-5.2提前上线，专注推理、速度和削减幻觉。文中介绍其技术要点，也展示网友实测情况，如被Gemini-3.0碾压等。
阿里发了个简历AI神器，大小仅0.6B
阿里巴巴集团研究团队开发出基于布局感知的简历解析框架，在简历解析任务准确率逼近Claude - 4等顶尖大模型，处理仅需1 - 2秒，直击自动化简历解析痛点，已在阿里HR系统全面部署。
清华联手英伟达打造扩散模型新蒸馏范式！视频生成提速50倍，4步出片不穿模
清华大学朱军教授团队与NVIDIA Deep Imagination研究组联合提出分数正则化连续时间一致性模型（rCM），将连续时间一致性蒸馏扩展至大模型，解决现有方法瓶颈，提升推理速度兼顾质量与多样性。
1.58bit不输FP16！微软推出全新模型蒸馏框架，作者全是华人
微软推出蒸馏框架BitNet Distillation，实现几乎无性能损失的模型量化。它含三阶段，经实验在多下游任务表现近全精度模型，降内存开销、提推理速度，作者全是微软研究院华人。