「推理市场」共找到 2679 篇相关文章
Mini-sglang-01：从Client到Scheduler的消息流转之旅
文章围绕轻量化大模型推理系统mini - sglang，详细介绍消息从客户端经APIServer、Tokenizer到Scheduler的流转过程，分析核心组件功能、消息体系、正反向链路及优化策略，还预告后续分析调度和模型实现逻辑。
不止于量化：最新综述用「时-空-构」三维视角解构KV Cache系统级优化
随着LLM向1M上下文演进，KV cache成推理服务效率核心瓶颈。墨尔本大学和华中科技大学研究者发布深度综述，用「时间 - 空间 - 结构」视角梳理KV cache优化方法，还归纳关键观察、提出开放挑战，并整理了资源库。
十二大顶尖大模型决战华尔街与量化投资
文章解读重磅论文，该研究汇聚五家顶级AI厂商十二个大模型，在标普500指数十一大板块构建投资组合并测试。结果表明，混合智能策略是稳健收益最佳路径，未来量化投资是人机和量化模型三元融合。
实测丨别人还在做网站，Atoms 已经帮用户赚到第一桶美金了
当下多数AI编程工具只解决写代码问题，难以让产品变现。Atoms由MetaGPT等原班人马打造，补齐商业闭环，从市场验证、上线收钱到解决流量问题都有办法，实测效果佳，还让普通人成功盈利。
CES深思考：没做人形机器人的石头，如何抢占家庭具身智能第一入口？｜甲子光年
2026年CES上，石头科技推出全球首款能扫楼梯的轮足扫地机器人G - Rover，它重新定义空间维度，可在台阶稳定作业。石头科技以场景需求定义形态，研发围绕用户需求，在全球市场表现出色。
两次拿到陆奇投资，张浩然这次想用 Agencize AI 干掉所有工作流 Agent
Agencize AI 创始人张浩然认为，所有要求用户预先构建工作流的 Agent 都是错的。该产品让用户只需描述意图，就能完成自动化工作，为用户生成个性化软件，连接传统 SaaS 软件。其还谈到未来软件变革及产品壁垒等。
256G比5090还贵！内存一年暴涨3倍，全球为奥特曼豪赌买单
全球内存供不应求，价格一年暴涨3倍。奥特曼的采购锁定40%产能，巨头转向高利润AI产品致中低端内存锐减。2026年内存短缺或重塑市场，GPU也将涨价，大家都要为AI发展买单。
沐曦上市背后：那些陪它穿越“死亡谷”的投资人｜甲子光年
沐曦股份在上海证券交易所科创板挂牌上市，发行价104.66元/股，上市首日高开。早期投资人陪其穿越‘死亡谷’，上市验证‘陪跑型投资’价值，也标志国产GPU进入‘资本验证期’，但仍面临生态和制程挑战。
对话微分智飞高飞：看具身智能如何引发飞行认知革命 | GAIR 2025
雷峰网第八届GAIR大会邀请微分智飞高飞，探讨具身智能在飞行机器人领域应用。高飞指出其与传统无人机本质区别，介绍应用场景、分布式集群技术，还谈世界模型价值、挑战及创业契机，认为具身智能是历史拐点。
Jina-VLM：可在笔记本上跑的多语言视觉小模型
Jina AI 发布 2.4B 参数量的视觉语言模型 Jina-VLM，在多语言视觉问答任务达 SOTA。它引入注意力池化，连接视觉与语言基座，支持 29 种语言，能高效处理问答等任务，对硬件需求低。