性能跑分」共找到 2645 篇相关文章

新闻资讯7

AI 狂潮中,电子业破局:国产先进封装加速突围

AI应用渗透使算力需求结构重塑,传统芯片技术升级遇阻,先进封装技术成关键。文中介绍DeepSeek架构突破、DeepSeek - R1算法革新,析其对算力需求的影响,指出高性能算力芯需求仍高,先进封装能释放芯片性能,国产有望突破。

芯师爷
推荐文章7

先进封装技术解读 | 三星

集成电路产业芯片设计、制造、封装测试三大领域,先进封装让制造与封测融合。本文解读三星先进封装技术,2.5D的I - Cube和3DIC的X - Cube,还与台积电、英特尔技术对比,指出三星多为跟随者。

芯师爷
产品应用8

阿里云Tair KVCache仿真析:高精度的计算和缓存模拟设计与实现

阿里云Tair KVCache团队推出Tair - KVCache - HiSim,这是面向布式多级KVCache管理的高保真LLM推理仿真析工具。它能在通用CPU上高精度预测性能,支撑计算选型、存储规划和调度协同等决策,还介绍了其架构、组件、验证及性能评估等内容。

阿里云开发者
算法论文7

谈一谈TP推理场景下MoE Group GEMM的优化思路

作者在使用H20测试SGLang CUTLASS MoE时,发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案,启动多个不同配置Kernel,依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。

GiantPandaLLM
算法论文8

FlashAttention 完全进化史:FA-4 发布之际的技术全景回顾

文章围绕FlashAttention展开,从Attention性能瓶颈引出问题,阐述其各版本演进。FA-1实现算法突破,避免O(N²)内存;FA-2适配架构,提升性能;FA-3深度协同,实现异步;FA-4探索更深异步和角色工。还探讨跨芯片迁移及未来优化方向。

GiantPandaLLM
推荐文章8

三点十四的狗

文章指出AI记忆面临诸多困境,如记不住、记太多,还有记忆审计和沉淀判断力等问题。作者认为遗忘是记忆系统的重要功能,AI应学会主动遗忘,谁先解决此问题,谁就能做出真正懂人的AI。

花叔
开源动态7

阿里最新开源王炸Agent!性能全面SOTA!

阿里WebAgent更新频繁,基本一月一版。它是类似DeepResearch的通用智能体,历经WebWalker到WebWatcher多阶段演进,各阶段解决不同问题,如网页导航、自主信息搜集等,还不断优化训练数据生成与处理方式。

探索AGI
产品应用7

Unsloth让大模型在手机上!

Unsloth放出教程,可将其微调模型部署到Pixel 8和iPhone 15 Pro。用ExecuTorch技术优化,Qwen2 - 0.5B在旗舰机上表现流畅。教程介绍量化感知训练控制精度损失,还给出iOS和Android部署步骤及注意事项。

AI工程化
8

在线等:如何优雅地走鹅厂这600+万?

AI时代风口转变,Meta、字节跳动、腾讯等头部玩家扎进推荐系统统一建模方向。2026腾讯广告算法大赛与KDD联动,赛题聚焦‘大一统’,设高额奖金和创新奖,吸引全球顶尖人才参赛。

量子位
产品应用8

真正能离线的完全开源翻译工具

Argos Translate是用Python写的开源离线翻译引擎,底层靠OpenNMT,推理用CTranslate2。可当库、命令行、桌面软件用,模型是本地zip包,不联网也能用。支持主流及小众语言,有多种使用方式。

GitHubStore