「前缀和计算」共找到 7335 篇相关文章
NVIDIA技术沙龙 《大规模EP优化:PD分离MoE并行方式》课程笔记
本文是NVIDIA技术沙龙课程笔记,介绍大规模EP优化的PD分离MoE并行方式。涵盖PD分离、大规模专家并行等五项关键技术创新,还对比多模型架构,展示推理服务架构性能特点与优化策略,以及各技术工作流程和效果。
北大南开数学家解决著名“十杯马天尼”问题:更统一、更优雅的证明
困扰数学和量子力学交叉领域半个世纪的“十杯马天尼”问题,虽2005年被数学家给出完整证明,但原证明依赖特殊对称性,难以推广到现实。北大葛灵睿、南开尤建功加入研究,将结论推广到更大类准周期算子,给出更优雅统一证明。
EMNLP25 | 北大x腾讯光子发布 C3 Benchmark:中英双语语音对话模型“地狱级”测试基准,直击语音对话模型软肋!
近年来语音对话模型受关注,但处理人类对话复杂现象的效能缺乏研究。北大联合腾讯光子构建中英双语C3 Benchmark数据集,评估模型应对复杂对话的能力,结果揭示性能瓶颈,为模型优化提供参考,代码和数据已开源。
“智元机器人收购A股上市公司是创新需要…现金流能撑三年”
智元机器人收购A股上纬新材后公开亮相,董事长邓泰华透露融资、出货等规划。其团队高管回应收购舆论、技术成果及合作等问题,如远征A2高温行走突破、与上市公司合作原因等,还提及出海和工业场景ROI规划。
AI 眼镜“秒变”直男程序员“脱单神器”,首次亮相被抢购一空!CEO 坦言:好产品要么能帮用户赚钱,要么能解决实际痛点
拂曦科技CEO段然分享AI眼镜创业经历。AI眼镜行业发展有趋势也有瓶颈,拂曦科技从B端转C端,其恋爱眼镜首秀被抢空。还谈到技术挑战、市场教育及未来爆款场景,强调场景是核心竞争力。
他救了OpenAI、年赚过亿、三家明星CTO,却自曝跟不上AI发展了!硅谷大佬告诫:不是马斯克,就别碰大模型
Bret Taylor履历丰富,曾助力OpenAI解决危机。他认为AI市场将分化为前沿基础模型、AI工具层和应用型AI三个板块,不建议普通创业者做基础模型,看好应用型AI中Agent生态。还分享创业、编程等多方面见解。
一条SQL管理向量全生命周期,让AI应用开发更简单
在大模型驱动的AI浪潮中,向量在AI应用开发中至关重要,但开发者面临技术栈分裂等隐形成本。PolarDB IMCI提出解决方案,在数据库内核集成向量索引与Embedding能力,用一条SQL管理向量全生命周期,降低开发和维护门槛。
LLM提示三剑客:解密CoT、ReAct、DSP如何提升AI准确率?
LLM提示分思维链(CoT)、ReAct和声明式自我提示(DSP)三类。CoT鼓励模型推理,适合多步骤复杂问题;ReAct结合推理与动作,是代理基础;DSP让模型声明计划,用于模块化任务。还给出使用场景与对比。
摩尔线程之后,又一家国产 GPU 独角兽完成上市辅导
6月23日,国产GPU龙头沐曦IPO辅导完成,将提交申报材料。其为异构计算提供全栈GPU方案,产品有曦思N、曦云C、曦彩G系列。曾与书生・浦语3.0合作,2024年交付多个算力集群。此外,国产GPU厂商纷纷IPO。
十周前才写下第一行代码,如今颠覆 9 个行业?员工人均 10 万粉,00 后创业者狂言:我们将超越 OpenAI
本文聚焦 21 岁 00 后创业者 Roy Lee 和他的桌面 AI 助手 Cluely。该产品获高额融资、估值达 1.2 亿美元且已盈利,但也饱受争议。文中还揭秘其成功热度的关键、团队情况,探讨 AI 时代产品留存演变。