「高效转发」共找到 596 篇相关文章
当 GPU 成为主角：解锁 AI 集群中那 85% 的闲置 CPU 算力
全球AI算力规模增长，GPU成主角，但GPU满负荷运转时CPU利用率低，传统调度机制无法保障优先级，造成资源浪费。TencentOS如意（RUE）的在离线混部技术改造Linux内核调度体系，高效释放算力。
Gemini 3“超前点映”效果炸场，巴菲特305亿重仓谷歌
Gemini 3还未正式发布，“超前点映”已亮相，网友实测其表现超强，能完成多种复杂任务。关注度火热，谷歌CEO还转发相关猜猜乐消息。同时，巴菲特305亿重仓谷歌，据传因提前体验Gemini 3。
推理速度10倍提升，蚂蚁集团开源业内首个高性能扩散语言模型推理框架dInfer
近日，蚂蚁集团开源业界首个高性能扩散语言模型推理框架 dInfer，在基准测试中，其将 dLLM 推理速度较 Fast - dLLM 提升 10 倍以上，攻克推理瓶颈，为开发者提供高效框架，推动扩散语言模型走向成熟。
吴恩达Agentic AI新课：手把手教你搭建Agent工作流，GPT-3.5反杀GPT-4就顺手的事
吴恩达新课聚焦Agentic AI，将开发沉淀为反思、工具、规划与协作四大设计模式，强调评估与误差分析能力。课程介绍拆解任务、构建工作流方法，还分享实用技巧，让AI系统持续进化。
第二代InfLLM开源，同尺寸快三倍！零参数，可训练稀疏注意力
新智元报道，清华、OpenBMB和哈工大提出零额外参数、训练高效的原生稀疏注意力框架InfLLM-V2，仅用5B长文本词元就能完成训练，相比稠密注意力机制有显著加速，性能接近传统稠密模型。
英伟达全新开源模型：三倍吞吐、单卡可跑，还拿下推理SOTA
英伟达推出专为复杂推理和agnet任务打造的开源模型Llama Nemotron Super v1.5，实现SOTA表现，吞吐量提至前代3倍，可单卡高效运行。它采用NAS优化架构，经多数据集训练，现已开源。
清华-腾讯联手：音频 - 视觉多模态任务统一框架
Crab是人大、清华和腾讯合作论文提出的模型，目标是高效一统多模态场景理解任务。它解决了音频 - 视觉理解模型任务干扰、合作显式化不足等难点，通过构建数据集、设计结构和统一架构实现多任务合作。
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。
Energy | 西工大史子颉、高传强等：三维风力机叶片动态失速数据融合建模研究
动态失速威胁风力机叶片安全与发电效率，传统模型有局限。西工大团队开发数据融合神经网络与动量叶素理论耦合框架，能高效高精度预示三维叶片动态失速，虽部分工况有偏差，但预测精度显著提升。
Linear-MoE：线性注意力遇上混合专家的开源实践
近年来，线性序列建模和混合专家（MoE）研究进步大，但两者结合研究少，相关开源实现缺失。上海人工智能实验室团队的 Linear - MoE 首次实现两者高效结合并开源技术框架，实验验证其有诸多优势。