「并行推理加速」共找到 2702 篇相关文章
启发学习:让大模型认知从外化到内生
当下大模型能力多靠人为框架,能力上限受限。文章提出“启发学习”,将其集成到推理侧成Isaac框架,通过Prompt与网络层注入复用旧经验,实验显示能大幅提升大模型任务性能。
Grok Bot代码也泄露了?
8月23日X上有人称Cursor团队发布的Grok Bot 0.18.0,runtime source map是开着的,此人重构其客户端代码并放于GitHub,一天浏览量约88万。该重构项目有诸多实用实验和功能。
在校生开发,榨干 win 系统全部带宽!
介绍在校生开发的开源工具 HypoMux,它面向 Windows,能把多张网卡「绑」在一起,让下载任务多线路并行。有双模式可选,还能智能分流,兼容主流加速器。操作简便,可解决下载慢问题。
紫东太初推出GMC核心集剪枝方法,少80%Token仍满血保真多模态能力
视觉Token冗余是多模态模型高效推理与落地的瓶颈,传统筛选方法有缺陷。紫东太初团队提出GMC核心集剪枝方法,具双阶段架构,优势多,实验显示其能在减少Token同时保持性能。
无锡梁溪国资领投!长三角商业航天再落关键一子
继4月数亿元Pre - A轮融资后,龙擎空天近日完成近亿元Pre - A+轮融资,由无锡梁溪国资平台领投。两轮融资用途明确,其‘终端 + 芯片’模式有独特优势,还启动‘算力上天’战略,折射商业航天产业变革。
Claude Sonnet 5:更强,但更贵,每任务成本反超Opus 4.8
Anthropic 发布的 Claude Sonnet 5 智能指数追平 GPT - 5.5,但每任务成本比 Opus 4.8 贵 15%。它在知识工作类任务表现佳,推出促销价,不过促销后成本待察。评估迁移时需算 token 消耗。
视频版Nano Banana来了!内置Gemini世界知识;原版香蕉出图仅需4秒
谷歌开放Gemini Omni Flash API,将多模态推理与视频生成编辑结合,有4项关键能力,也有局限。Nano Banana 2 Lite出图快且便宜。二者串联使用,图像生成与视频创作可无缝衔接。
英伟达把8个AI和8台机器人关在一起,它们学会了自己做实验
英伟达高级研究科学家公布“ENPIRE”项目,8个AI与8台机器人组成科研团队,能自主做实验。研究测试三种coding agent,Codex表现最佳。系统分两阶段,虽有局限但有新发现。
2026年了,我们还在用爱迪生试灯丝的方式评估World Model
文章围绕World model展开深度讨论,界定其概念,分析生成派、JEPA派、空间智能派三条技术路线,指出评估比LLM难,提及游戏化benchmark可能是破局点,还强调具身进展由数据驱动,Ego - View或为泛化关键。
最新消息:美国批准英伟达H200出口10家中国企业,黄仁勋这趟没白来
路透社消息,美国批准英伟达向10家中国企业出口H200芯片,联想和富士康成分销商。黄仁勋强调中国市场重要,预言2026年技术大爆发。业内分析此次松绑或因商业压力等,对国内AI产业有积极影响。