「算力优化」共找到 1981 篇相关文章

新闻资讯7

大基金或将领投DeepSeek?算力拐点将至

5月6日报道国家大基金正洽谈领投DeepSeek首轮融资,估值约450亿美元。大基金此前未公开投资大模型公司,此次若落地是从“半导体硬件”向“AI应用端”延伸。2025年是中国AI芯片出货量关键年份,DeepSeek-V4发布,多家国产芯片品牌完成适配,但国产芯片仍面临性能、软件生态等挑战。

芯师爷
新闻资讯7

AI PC,一场关于算力、场景与生态的远征

AI PC 市场竞争升温、格局重塑,本质是下一代计算入口争夺。英特尔通过硬件创新、生态共建等推动 AI PC 发展,在 2025 抖音商城秋上新秀展出相关产品,其酷睿 Ultra 处理器优势明显,市场呈多元竞逐态势。

AI科技评论
开源动态8

千星项目LLMRouter:多模型路由,16+策略优化推理

UIUC开源智能模型路由框架LLMRouter,可自动为大模型应用选最优模型,有16+路由策略。该框架打通训练、评测等链路,解耦Route与Training模块,支持多轮协同等,还可插件式扩展。

新智元
算法论文7

谈一谈TP推理场景下MoE Group GEMM的优化思路

作者在使用H20测试SGLang CUTLASS MoE时,发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案,启动多个不同配置Kernel,依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。

GiantPandaLLM
推荐文章8

Anthropic官方解密:3招上下文优化,破解Agent性能暴跌

本文是Anthropic官方文章翻译,从提示词工程拓展到上下文工程,阐述其构建方法。介绍上下文工程对构建智能体的重要性、上下文构成,还提及上下文检索、智能体搜索及长期任务的上下文工程解决方案。

AI产品自由
新闻资讯7

4000亿国产算力航母:芯片巨头合并超算巨头

上交所披露海光信息拟换股吸收合并中科曙光并募资,两家公司A股自5月26日开市起停牌,预计不超10个交易日。海光聚焦芯片研发,中科曙光深耕服务器领域,重组方案待明确,实施有不确定性。

量子位
新闻资讯7

黄仁勋联手OpenAI前高管,1吉瓦超级算力明年开闸

英伟达CEO黄仁勋与前OpenAI高管Mira Murati的初创公司Thinking Machines Lab达成「吉瓦级」合作,将部署至少1吉瓦下一代NVIDIA Vera Rubin系统,明年初启动,背后涉及数百亿美元,也引发对「循环融资」的担忧。

新智元
推荐文章7

TPU vs GPU 全面技术对比:谁拥有 AI 算力最优解?

SemiAnalysis对Google TPU v7/v8深度拆解,将TPU与Nvidia GPU多方面对比拆到可计算层面。不过其结论有局限性,本文重新分析,指出TCO因场景而异,互联体系分歧在流量假设,Google TPU v8成本优势被削弱。

海外独角兽
算法论文8

AEPO:智能体熵平衡策略优化,让探索更稳,推理更深!

中国人民大学与快手团队联合提出 AEPO 算法,解决熵驱动式智能体强化学习训练不稳等问题。它设计两项核心机制,在 14 个基准上优于主流算法,在 X 等平台获高关注。

机器之心
新闻资讯7

OpenAI一口气建5个算力中心!英伟达喂饱孙正义和甲骨文

英伟达计划给OpenAI一千万美元新投资,OpenAI宣布将和甲骨文及软银合作建五个数据中心,作为奥特曼“星际之门”计划一部分。OpenAI与甲骨文合作熟络,英伟达分批投资,不过其投资金额及资金缺口引疑问。

量子位