「硬件优化」共找到 1647 篇相关文章
高性能计算群星闪耀时
本文介绍了高性能计算（HPC）在大模型时代的重要性，以及清华高性能计算团队在HPC及相关领域的研究与实践。如郑纬民带领团队突破存储技术，陈文光、翟季冬等助力大模型训练，武永卫团队优化推理，张悠慧探索类脑计算。
不可思议！400B大模型在iPhone上跑起来了
一个跑在 iPhone 17 Pro 的 A19 Pro 芯片上的 400B 大模型 Qwen3.5 - 397B - A17B 引发关注。这源于 Flash - MoE 开源项目，它摒弃现代 AI 框架，回归底层开发，实现消费级硬件上大模型交互级速度运行。
DeepSeek一体机最新观察：满血版卖不动了，市场抢食零散的中低端机型生意
本文聚焦DeepSeek一体机市场，上半年国央企等大客户采购高端机型需求旺，头部硬件厂商营收可观，中小厂商冷清。下半年高端市场饱和，中低端机型“游击战”开打，部分厂商用国产芯片降成本，部分有政府关系的新厂商入局。已售一体机落地难，需杀手级应用和用户数据。
SAPO：让强化学习告别“硬剪切”
强化学习是提升大语言模型推理能力的核心技术之一，但现有基于组的策略优化方法面临 token 级重要性比率高方差问题。GRPO 和 GSPO 采用硬剪切有学习信号丢失等缺点。为此提出 SAPO，用平滑门控函数替代硬剪切，实验效果良好。
一个运行了80年的算法，我们现在才真正理解它？
近80岁的单纯形法是优化领域基石，广泛用于包裹配送、飞机航线规划等，但此前没人能从理论上完美解释其高效原因。现在，Huiberts和Bach找到了谜题的最后一块拼图，不仅让算法更快，还从理论上解释了现象。
有生之年吃到了钉钉的细糠
作者参加“2025 钉钉十周年暨新品发布会”，体验了钉钉 8.0 版本。该版本开启 AI 1.0 新篇章，界面焕然一新，以钉钉 One、AI 搜问等重塑工作流程，还升级语音智能硬件，实现信息处理闭环，提升企业与员工效率。
月费3万，成本为零：谁在收割企业的GEO焦虑？| 甲子光年
GEO指针对生成式AI进行结果优化，提高品牌被纳入回答的机会。当下GEO市场乱象丛生，多数服务商报价随意、技术原始，靠“黑帽”做法捞金。不过也有行业规范派在建立标准。其背后是流量入口争夺战，未来提示词或成新货架。
社区供稿丨Jina-VLM：可在笔记本上跑的多语言视觉小模型
Jina AI发布2.4B参数量的视觉语言模型Jina - VLM，在多语言视觉问答任务达SOTA。它引入注意力池化，连接视觉与语言基座，处理问答等任务，对硬件要求低，多项测试表现优，还介绍架构、训练策略和上手方式。
阿里云 Tair 基于 3FS 工程化落地 KVCache：企业级部署、高可用运维与性能调优实践
本文介绍阿里云 Tair KVCache 团队与服务器研发存储软硬件结合团队对 3FS 的工程化升级实践。从性能、产品、运维维度优化，为高性能 KVCache 在企业级 AI 场景落地提供范式，还提及未来 3FS 产品化及服务器硬件升级方向。
一个Dispatch Dtype引起的fp8 quant kernel性能问题
文章记录SGLang社区在sgl-kernel中解决的fp8 quant kernel性能问题，因错误使用`c10::Float8_e4m3fn`数据类型，未用硬件加速指令，通过软件调用致性能下降，现已修复，vLLM也应用此修复。