「在离线混部」共找到 8237 篇相关文章
KV-Cache 实战策略：生产环境中的分页、固定与复用技术解析
在大语言模型推理场景中，KV - Cache 是平衡性能与成本的核心技术，但生产环境中面临诸多问题。本文聚焦其分页、固定与复用三大战术，结合原理、实践与案例，为开发者提供解决方案，还探讨了未来演进方向。
刚刚，Gemini 宣布将前往太空！
刚刚，Starcloud宣布与Google Cloud合作，要把Gemini模型送上卫星运行。计划今年底或明年初通过SpaceX发射搭载NVIDIA H100 GPU的演示卫星。虽面临诸多技术难题，但在AI算力需求增长下，此举或开启新时代。
毕业7年，身价破亿！清北AI天团血洗硅谷，奥特曼被逼分天价股份
清北中科等名校毕业生在硅谷成超级明星，谷歌因Meta挖人给员工涨薪，OpenAI为留人给部分员工加薪、送1/3股权。AI人才薪资差距大，国内AI人才也多出身名校，需求和高薪职位增长快。
印度裔 AI 负责人删掉 Karpathy 90%遗留代码，马斯克 Robotaxi 终上线！用户体验：不要小费，还可能倒给你钱
当地时间6月22日，特斯拉在奥斯汀启动Robotaxi试点服务。其AI团队核心成员是印度裔阿肖克和德国工程师米兰。技术上精简代码、扩展模型上下文长度，用户体验顺畅，但与马斯克此前设想设计有差异，国内也有多家企业开展此业务。
Redis 之父：哪怕被喷我也得说，AI 远远落后于人类程序员！开发者跟评：用大模型气得我自己写代码都有劲儿了
Redis 之父 Antirez 分享研发经历，认为人类程序员比大模型出色，人类能打破常规想出更有效解法。他在修复 Redis 复杂 bug 时，与 Gemini 2.5 PRO 交流，凸显人类创造力优势。开发者看法不一，AI 虽成工具但缺创造力。
硅谷知名投资人Jaya Gupta：AI公司真正的护城河，是组织本身
硅谷知名投资人Jaya Gupta认为，AI时代竞争从技术层坍缩到组织层，公司真正的护城河是底层的「机构」，人就是公司本身。伟大的公司为特定人才提供表达自我的结构，在身份认同等方面竞争。
豆包「打电话」升级 Seeduplex：周围再吵，只认准你的声音
作者分享使用豆包语音通话功能体验，发现它换了新语音模型 Seeduplex。该模型是原生全双工语音大模型，解决半双工问题，在复杂场景表现出色，还介绍其技术逻辑及对行业的影响。
32B逆袭GPT-5.2：首个端到端GPU编程智能体框架StitchCUDA问世
现有LLM自动化CUDA方法难处理端到端GPU程序，StitchCUDA提出多智能体框架+基于Rubric Reward的Agentic RL方案，分解任务、优化训练，在实验中成功率和加速比远超其他方法，解决Reward Hacking问题。
英伟达推出下一代计算平台Rubin：可用45°C的热水进行冷却，训练速度提高3.5倍
英伟达黄仁勋在CES演讲，宣布进入自动驾驶领域、推出Alpamo模型与下一代计算平台Rubin。他指出计算行业正经历平台性转变，还介绍AI进展、应用架构，Rubin平台性能强且能效高。
Google全链路赋能出海：3人团队调度千个智能体，可成独角兽｜MEET2026
在量子位MEET2026大会上，Google Cloud大中华区负责人Dennis Yue称智能体为初创出海注入新内涵。谷歌推一体化方案全链路赋能，还谈到Gemini 3突破、A2A协议及商业模式转变等。