「AI推理加速」共找到 11202 篇相关文章
高性能全闪并行文件系统的设计和实践
焱融科技 CTO 张文涛在 QCon 大会分享‘高性能全闪并行文件系统的设计和实践’，介绍了焱融全闪文件存储架构和 YRCloudFile 技术细节，分享其解决 AI 训练存储难题的方案。
奥特曼：假如给我一千倍算力，我会这样做
奥特曼在最新访谈展望下一代模型，认为完美AI是有超人推理能力等的微型模型。理想AGI能自主发现新科学，使全球科学发现提速。他还回应算力假设，为企业指明投入资源方向。
大模型优秀大脑齐聚硬核开源聚会，SGLang社区举办国内首次Meetup
10月25日，SGLang联合美团、亚马逊云科技在北京举办国内首场Meetup。SGLang是开源高性能推理引擎，特性丰富。活动中大咖和开发者分享见解、进展、应用场景，展现其社区活力与发展潜能。
赢家诅咒？英伟达暴跌背后的泡沫之辩
11月3日至28日，英伟达股价跌幅近15%，黄仁勋有危机意识。同时谷歌股价涨超13%，Gemini3.0重建投资者信心。行业面临‘Scaling时代终结’论断，围绕英伟达GPU折旧周期有争议，TPU路线现曙光，国产算力加速替代。
Ilya的首个模型来了！
掌握内幕的草莓哥爆料，Ilya正构建以TTT为核心的小型推理引擎。他预见传统大模型的死穴，SSI将TTT概念落地，其引擎在数据效率等方面优势明显。SSI获投资，本月或发新模型。
智谱公布“降智”的秘密：Scaling不可避免的痛
智谱最新技术博客大倒苦水，称从GLM - 5以来遭遇「Scaling Pain」。团队排查出高负载下推理状态管理等问题致异常，还给出避坑指南，如在线异常监控策略，优化后系统更稳定，吞吐量提升。
揭密MiniMax不为人知的B面
第一批AI大模型公司上市潮来临，MiniMax营收增长显著。它采用“B+C全都要”商业模式，B端业务靠API调用，覆盖多领域，毛利率高。其B端战略分三层，靠全模态布局和模型能力扩张版图。
为什么我觉得AGI并不会马上到来
作者Dwarkesh Patel认为AGI不会马上到来。当前大语言模型缺乏持续学习能力，难以替代人类工作；计算机操作能力受训练周期、数据等限制；推理能力虽有突破，但仍需时间发展。作者给出了具体预测时间。
苹果在WWDC提到的本地模型，这家公司把它提速了220倍
苹果在WWDC开放本地语言模型API，让iPhone等有了“AI大脑”，但开发者面临模型运行慢问题。国产团队面壁智能发布MiniCPM 4.0，端侧处理长文本提速惊人，从多层面创新实现，还补上推理框架缺口。
全球首款！Claude引发的数据恐慌，被这家中国黑马补上了
威努特作为网络安全公司跨界推出AI桌面助手WinClaw。它能读懂各类文件并进行向量化处理，有多种检索方式，还能跨文档归纳、关系推理。具备安全的三层防护，支持双平台，注册即可用。