端到端加速」共找到 2820 篇相关文章

新闻资讯8

上海理工男造芯,飙上3000亿

12月17日,沐曦股份登陆科创板,市值超3000亿。创始人陈维良出身AMD,放弃百万年薪创业。他带领强悍班底,精准切入B数据中心市场,产品落地快,还构建国产供应链,搭上AI东风加快追赶。

芯师爷
开源动态7

SGLang|SGLang Diffusion

来自SGLang开源社区的Yichi介绍SGLang Diffusion,它是面向图像与视频生成的全开源扩散模型推理引擎。基于SGLang机制将能力迁移扩散模型推理,能显著提速工作流,视频展示了多种功能。

GiantPandaLLM
开源动态8

欧洲版DeepSeek发布Mistral 3系列模型,多模态云生态,无差别商用交付给全球开发者

欧洲最强AI公司Mistral AI发布全系开源模型Mistral 3,从675B3B参数打通智能链路,采用先进架构,与业界合作优化,以Apache 2.0协议交付全球开发者,推动开源智能发展。

AIGC开放社区
新闻资讯8

算力十年狂飙100000倍,他却每天担心破产!黄仁勋亲述:如何用“30天危机感”逆袭万亿AI市场

英伟达推出 CUDA Toolkit 13.1,带来 Tile 编程等多项变革。CEO 黄仁勋有强烈危机感,回顾创业阶段。访谈中他谈 AI 发展、意识、工作影响等,认为技术竞赛重要,AI 融入生活但不会有真正意识。

InfoQ
推荐文章8

62岁软件教父Martin Fowler警告:AI泡沫下,裁员潮印证行业萧条,大模型正将编程拖入“非确定性深渊”!

62岁软件教父Martin Fowler在The Pragmatic Engineer节目中谈AI对软件开发的影响。他认为当下行业萧条,AI有泡沫,编程从确定性转向非确定性带来挑战,也催生新工作流程,还强调测试、重构等的重要性。

InfoQ
算法论文8

AI问答,直接「拍」给你看!来自快手可灵&香港城市大学

来自快手可灵团队和香港城市大学的研究者提出「视频作为答案」任务范式,发布VANS模型。它由视觉语言和视频扩散模型构成,通过联合分组相对策略优化算法协同优化,在教学和预测应用上效果超现有模型。

量子位
新闻资讯7

千问APP悄悄上线,阿里的AI超级入口也终于来了。

阿里千问APP悄悄上线,界面简约,功能增加,支持Qwen全系列最新模型。它将阿里系分散的AI触点收束“千问”品牌,还默认开启搜索,整合多种功能,让普通用户使用体验更友好。

数字生命卡兹克
7

分析了1.8亿个岗位后,我发现应届生们好像被AI堵在了门外。

文章分析1.8亿个岗位发现,AI使应届生就业难,创意和执行类岗位受冲击大,管理层岗位相对稳定。如应届生毕业即失业,执行岗减少使学徒制传承受阻,长远看不利于文明进步。

数字生命卡兹克
算法论文8

别再只关注KV Cache了! LLM稀疏性新洞察:为何模型越深越稀疏?UNCOMP从矩阵熵给出答案

团队论文UNCOMP获EMNLP 2025主会接收,它提出高效推理框架,从截断矩阵熵视角解释LLM深层稀疏现象。还能识别关键结构、找最优压缩策略,设计的UNCOMP框架优化KV Cache,实验效果佳。

深度学习自然语言处理
算法论文8

推理效率狂飙60倍:DiDi-Instruct让扩散大模型16步超越千步GPT

普渡大学等研究者提出 DiDi-Instruct 后训练方法,可将扩散大语言模型推理加速 60 倍,超越传统 GPT 模型。该方法实现推理效率与效果双提升,为大语言模型落地提供新方案。

机器之心