吞吐量提升」共找到 2951 篇相关文章

算法论文8

ICML 2026 | 拒绝盲目猜token,阿里x浙大将投机解码带入弹性预算时代

随着大模型参数规模扩大,推理成本成核心瓶颈。投机解码在高并发下有问题,阿里与浙大学者提出 ECHO,将投机树构造建模为预算调度问题,通过稀疏门控和弹性预算调度提升系统收益。

机器之心
新闻资讯7

思考已成白菜价?黄仁勋一语成谶,物理学家:人类科研只剩3年

德国物理学家Sabine Hossenfelder预言,3年内熟悉的科学研究将不复存在,因AI能低成本、短时间取代人力。现实中AI已提升科研效率,国家与巨头也在推动,同时它会摧毁旧科研模式并重塑新范式。

新智元
产品应用8

Lovart悄悄上的这个新功能,就是我心中设计的神。

作者氪7000元成为Lovart最高等级年费会员,因其新功能编辑文字配合Nano Banana Pro,可精准改字,还能与画布、Touch Edit、Mock up等功能结合,提升设计效率,替代PS成作者心中设计神。

数字生命卡兹克
产品应用8

豆包背后的“超算大脑”:字节ByteRobust系统跑20多万张GPU,性能刷新SOTA

字节跳动自研的ByteRobust系统登上SOSP 2025,部署于超20万张GPU平台,9600张GPU训练三个月ETTR达97%。该系统应对LLM训练故障,由控制和数据平面构成,能自动发现修复故障,提升训练效率与稳定性。

AIGC开放社区
开源动态8

破解空间智能数据稀缺难题,影石开源DiT架构全景生成模型,在线可玩

影石研究院团队推出基于DiT架构的全景图像生成模型DiT360,设计分层混合训练框架,结合透视与全景图像数据,提升真实感和几何一致性。它支持多任务,优于现有方法,为三维场景生成提供新思路。

量子位
算法论文8

华人主导谷歌SLED,论文登顶会!一键让模型学会自救

大模型常「瞎编」,传统修复代价高。谷歌在NeurIPS 2024提出SLED方法,不依赖外部知识和额外微调,将各层预测纳入考量,减少模型幻觉。实验显示,SLED能显著提升模型准确率。

新智元
新闻资讯7

光刻机巨头ASML,108亿控股了一家大模型公司

光刻机巨头ASML领投法国AI明星公司Mistral AI的C轮融资,砸13亿欧元成第一大股东,推高其估值至100亿欧元。Mistral开源与商业化并行,ASML投资或提升光刻机效能。

量子位
开源动态8

揭秘开源Agentic‑Doc真能支撑120 W+ 查询?医疗/金融/法务都在用,确实是有这么 6~~~

LandingAI的Agentic Document Extraction是领先OCR且具视觉结构化能力的Python SDK,可处理复杂文档。它功能丰富,架构合理,支持多格式输出。在多行业有应用,性能提升显著,与同类项目相比优势明显。

小华同学ai
开源动态8

准确率92.7%逼近Claude 3.5、成本降低86%,开源代码定位新神器LocAgent来了

OpenHands 等团队发布 LocAgent,这是用于代码定位的图索引 LLM Agent 框架,准确率达 92.7%。它把代码库解析成图,提供工具接口,经实验效果出色,开源微调模型降本增效,还能提升问题解决率。

机器之心
新闻资讯8

英伟达震撼首测Vera Rubin,DeepSeek吞吐暴涨30倍!

英伟达公布下一代旗舰级机柜Vera Rubin NVL72片上实测数据,用DeepSeek - V4 - Pro跑任务,每兆瓦吞吐量最高升30倍、Token成本最高降35倍。还宣布Groq 3 LPX量产,推出Agent专属Vera CPU,被SpaceXAI采用。

新智元