性能加速」共找到 2439 篇相关文章

产品应用8

阿里云Tair KVCache仿真分析:高精度的计算和缓存模拟设计与实现

阿里云Tair KVCache团队推出Tair - KVCache - HiSim,这是面向分布式多级KVCache管理的高保真LLM推理仿真分析工具。它能在通用CPU上高精度预测性能,支撑计算选型、存储规划和调度协同等决策,还介绍了其架构、组件、验证及性能评估等内容。

阿里云开发者
算法论文7

谈一谈TP推理场景下MoE Group GEMM的优化思路

作者在使用H20测试SGLang CUTLASS MoE时,发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案,启动多个不同配置Kernel,依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。

GiantPandaLLM
新闻资讯8

Anthropic刚发布了一份「AI抢饭碗报告」:学历越高越「被抢」

Anthropic《经济指数报告》揭示,任务越复杂AI加速越猛,学历高的工作受影响大。还指出人机协作能大幅提升任务时长,不同国家AI应用有贫富和技术代差,也提到了‘去技能化’问题及对生产率的预测。

新智元
8

库克清空弹夹!2nm,韬定律,最强AI电脑

库克退休前火力全开,苹果发布首款2nm制程芯片M6和最强M系芯片M5 Ultra,塞进新款Mac。M6让Mac mini AI性能暴涨,M5 Ultra性能强悍,能跑大模型。但因内存短缺,高内存版限购且供货晚,价格也涨了。

量子位
新闻资讯7

玻璃基板突然加速

AI算力行情推进,玻璃基板行情被京东方与康宁合作引爆。英特尔和台积电想用玻璃基板替代主流载板,虽想法合理,但落地需谨慎。英伟达推动其商业化,面板产业也积极助力,不过仍有技术难关待闯。

远川科技评论
推荐文章7

人工智能无法加速软件交付

文章指出速度不是软件交付目标,提升效率是为获反馈。片面追求速度不可取,如微软 Word 因功能堆砌失市场。引入人工智能只为提速不可信,应重视反馈,优化交付流程,借助 AI 打造更有格局产品。

AI前线
推荐文章7

人工智能无法加速软件交付

文章以养狗比喻,指出有些机构用AI只看重速度,速度并非目标,为速度用AI缺乏可信度。强调应看重反馈,以反馈循环主导软件交付流程,还给出团队规模、产品开发等建议。

InfoQ
开源动态7

阿里最新开源王炸Agent!性能全面SOTA!

阿里WebAgent更新频繁,基本一月一版。它是类似DeepResearch的通用智能体,历经WebWalker到WebWatcher多阶段演进,各阶段解决不同问题,如网页导航、自主信息搜集等,还不断优化训练数据生成与处理方式。

探索AGI
新闻资讯7

The Batch: 844 | AI 天气预测加速推进

美国国家飓风中心与 Google 的 Weather Lab 合作,利用新模型预测风暴。该模型能比传统方法更准确预测风暴形成、路径和强度,最长提前 15 天,测试表现优于 Google 之前的 GenCast 模型和 ENS 模型。

DeeplearningAI
新闻资讯7

北京芯片巨头,吸金50亿加速狂奔

AI算力需求爆发,4月30日寒武纪抛出近50亿定增计划。其此前多次募资,虽长期亏损,但连续两季盈利,股价涨幅大。当下英伟达限售,政策支持,寒武纪有望抢占市场,此次募资将完善产品矩阵。

芯师爷