缓存加速」共找到 700 篇相关文章

产品应用7

QQ音乐你变了,竟能免费在AI PC上原创一首《大东北》

QQ音乐在AI PC上可免费AI作歌,只需输入灵感,几分钟就能创作出原创歌曲。AI PC改变应用生态,降低创作门槛,更安全自由。背后是英特尔酷睿Ultra处理器革新架构,还发起加速计划。

量子位
新闻资讯7

5亿热钱砸向具身智能新玩家!地平线VP创业,余凯又投了

具身智能赛道火热,无界动力获5亿天使轮融资。其创始人张玉峰是前地平线副总裁,团队实力强。此轮融资将加速基础模型研发与专家模型落地,公司首代机器人平台已在两方向突破。

量子位
新闻资讯7

1.3亿美元!LiblibAI拿下国内AI应用赛道年度最大融资

2025年,AI应用公司LiblibAI完成1.3亿美元B轮融资,由红杉中国等联合领投,老股东超额增持。这是今年国内AI应用赛道最大融资,标志投资热点转向应用层。该平台有独特生态,还将加速全球化布局。

量子位
新闻资讯7

赢家诅咒?英伟达暴跌背后的泡沫之辩

11月3日至28日,英伟达股价跌幅近15%,黄仁勋有危机意识。同时谷歌股价涨超13%,Gemini3.0重建投资者信心。行业面临‘Scaling时代终结’论断,围绕英伟达GPU折旧周期有争议,TPU路线现曙光,国产算力加速替代。

芯师爷
算法论文8

8B模型可以超过GPT-4o!并行KV Cache压缩支持的128K长度外推方法ParallelComp

大模型长文本推理存在瓶颈,作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新,能让 8B 模型性能达 GPT - 4o 的 91.17%,特定任务超 GPT - 4o。

机器之心
产品应用8

MiniCPM 4.0极速狂飙,端侧模型的比赛,结束了!

面壁智能联合清华发布MiniCPM 4.0,极限场景220倍加速。它是首个原生稀疏模型,有InfLLM v2、CPM.cu等创新,基准测试碾压对手,适配全平台,还有科研、工具调用等功能,标志端侧长文本时代到来。

AGI Hunt
推荐文章7

代码怎么才能跑的更快

文章围绕让代码跑更快展开,先介绍调整源代码的方法,如降低循环开销、去除内存引用等,又阐述使用硬件加速指令,像用 SIMD 函数、避免分支语句等,还提及多核并行和分析瓶颈等要点。

阿里云开发者
新闻资讯8

谷歌一篇论文引爆存储芯片崩盘!AI内存需求暴降6倍,推理狂飙8倍

谷歌发布TurboQuant算法,将缓存压到3 - bit,内存占用降为1/6,推理速度提升8倍。该算法冲击存储巨头,引发股价下跌,虽目前未改变采购量,但改写推理成本,且从论文到落地的路在缩短。

新智元
产品应用8

英伟达联手QCI搞大事:量子应用能在真机前先模拟纠错

量子电路(QCI)公司联合NVIDIA,将CUDA - Q编程能力集成到Aqumen软件套件。QCI的双轨量子比特设计易纠错,有检测、控制流、处理错误三大功能。二者结合能让开发者在真机前模拟纠错,加速量子计算商业化。

AIGC开放社区
算法论文8

32B逆袭GPT-5.2:首个端到端GPU编程智能体框架StitchCUDA问世

现有LLM自动化CUDA方法难处理端到端GPU程序,StitchCUDA提出多智能体框架+基于Rubric Reward的Agentic RL方案,分解任务、优化训练,在实验中成功率和加速比远超其他方法,解决Reward Hacking问题。

机器之心