「存算分离」共找到 540 篇相关文章
TileLang深入详解-第三章-Kernel，Buffer，并行控制和矢量化
文章详细介绍TileLang核心编程构造，包括Kernel函数、Buffer和并行控制等。阐述其计算定义、并行与循环控制方式，还提及性能优化的矢量化访存，给出代码示例，并分享源码里形状、并行域和线程的最佳实践。
谷歌Gemini一次提示能耗≈看9秒电视，专家：别太信，有误导性
谷歌报告称处理一个中位数的Gemini文本提示能耗低，2024 - 2025年单个文本提示能耗降33倍、碳足迹减44倍，归功于全栈式优化。但专家质疑其方法论，指出未算间接用水、碳排放核算不全等问题。
两种小金属卡了AI脖子，中国供应链占主导
在AI数据中心扩产潮中，IEEE点出铒和钇两个此前少被关注的小金属，它们分别用于数据中心长距离光通信网络和供电燃气轮机。我国占这两种小金属近100%产量，且分离加工能力强。
打脸哲学无用！牛津博士教出Claude，自曝百万年薪提示词秘诀
Anthropic驻场哲学家Amanda Askell主导设计Claude的性格等机制，她分享制定有效AI提示词方法，认为需哲学思维。此外还提及不同人对提示词看法，以及大模型存在的「裂脑问题」。
Claude Chrome 插件使用体验：强大，但有点慢
作者分享Claude for Chrome插件使用体验，介绍使用流程，测试让其查看马斯克推文，结果准确。该插件能力强且通用，但存在慢、焦点抢占问题，还提到与deepresearch及云厂商设备的差异。
如何选择合适的 Diskless Kafka
随着企业将 Kafka 迁移至云原生架构，Diskless Kafka 成趋势。本文剖析其兴起原因，重点探讨开源的 AutoMQ 方案，还对比基于 Leader 与无 Leader 两种架构在多维度的差异，助您选合适 Kafka 方案。
告别「解码器饥饿」！中国科学院NeurIPS推SpaceServe，高并发克星
中国科学院计算技术研究所入选NeurIPS 2025的论文提出SpaceServe架构，将LLM推理P/D分离扩展至多模态场景，通过EPD三阶解耦与「空分复用」，解决MLLM推理行头阻塞难题，在Qwen2 - VL系列模型实测中表现出色。
帮大模型提速80%，华为拿出昇腾推理杀手锏FlashComm，三招搞定通算瓶颈
在大模型推理通算难题凸显的背景下，华为数学家祭出 FlashComm。它包含三项技术，分别在 AllReduce 通信、以存换传、多流并行方面优化，解决通信瓶颈，提升推理性能，未来还将围绕多方向创新。
起猛了，机器人开上卡丁车了！
Symbiosis Robotics放出机器人开卡丁车新演示，还推出Direct Perception Control（DPC）。它取消中间运动表示，让模型结合画面、任务和身体反馈直接算关节与手部目标，团队还整理15,010小时具身数据。
LLM加速利器LMCache，极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件，能降低首次响应延迟、提升吞吐量，适用于长上下文场景。它将KV缓存存于多级存储，跨服务实例复用任意重复文本的KV缓存，节省GPU算力，与vLLM结合优化显著。