「GPU优化」共找到 1614 篇相关文章
【CUDA-MODE学习笔记】Lecture 40: CUDA Docs for Humans（文末送书
本文是CUDA-MODE课程笔记，介绍Modal公司GPU术语词汇表项目，讲师分享职业历程，强调理解CUDA技术栈各层次重要性，还讨论了项目短、中、长期目标，是助力开发者掌握CUDA的教育项目。
AI地理学家诞生：麻省理工、斯坦福用多智能体框架重塑地理空间建模，刷新SOTA
麻省理工、慕尼黑工大及斯坦福AI实验室发布GeoEvolve框架，深度融合地理知识与进化算法，实现复杂地理空间模型自动发现与优化。经实验验证，其性能超越以往基准，有望在多领域发挥作用。
南华期货 x TencentOS：如何实现CentOS操作系统的“无感”切换？
2024年南华期货与腾讯合作，依托TencentOS Server完成200余套操作系统迁移，实现核心业务零事故切换。其分三阶段实施，TencentOS Server以无感迁移、稳定性强、利于生态协同等优势获选，迁移成效显著。
大语言模型的解耦：人工智能基础设施的下一轮进化
人工智能模型发展快，但基础设施滞后，传统单体式服务器架构成瓶颈。文章介绍大语言模型推理的预填充与解码阶段差异，指出解耦架构可突破困境，还阐述其经济影响、实施策略、应用案例及未来展望。
破解MoE模型“规模越大，效率越低”困境！中科院自动化所提出新框架
大模型参数量飙升却陷入‘规模越大，效率越低’困境，中科院自动化所研究团队提出统一框架，直击MoE底层运作模式，让专家‘组队学习’，实现参数量、负载方差降低，达成三重优化。
谷歌开源非结构化数据抽取工具
谷歌开源 Python 库 LangExtract，用 LLM 从非结构化文本文档提取结构化信息。它定位精确、输出可靠，针对长文档优化，有交互式可视化，支持多模型，适应多领域，还给出快速开始示例。
OmniInsert：全新无掩码视频插入技术
基于扩散模型的视频插入技术发展快，但以往方法有局限。字节提出InsertPipe和OmniInsert，解决数据不足等难题。OmniInsert设计巧妙，还建立评测平台InsertBench，虽有小问题，但推理快，可加速优化。
英伟达斥资50亿美元入股英特尔
18日，英伟达与英特尔宣布深度合作，联合开发产品。英伟达将斥资50亿美元入股英特尔，双方以NVLink技术连接架构，合作聚焦数据中心和个人计算领域，旨在提升运行效率，填补产品空白。
GPT-5-Codex 一手实测
OpenAI推出新编程模型GPT - 5 Codex，Every团队实测显示其表现狂野。它能动态选思考时间，可在不同开发环境无缝切换，代码审查更优。但也存在对任务挑剔、环境设置麻烦等问题。
用短视频成本生成长视频，字节Seed新注意力机制让计算量降低85%
字节Seed与斯坦福等机构推出新模型，其新注意力机制MoC能让长视频生成计算量降低85%，质量不减且保持连贯性。团队将视频生成定义为上下文检索任务，提出MoC机制并阐述实现方法。