「全链路服务」共找到 2418 篇相关文章
不止于量化：最新综述用「时-空-构」三维视角解构KV Cache系统级优化
随着LLM向1M上下文演进，KV cache成推理服务效率核心瓶颈。墨尔本大学和华中科技大学研究者发布深度综述，用「时间 - 空间 - 结构」视角梳理KV cache优化方法，还归纳关键观察、提出开放挑战，并整理了资源库。
开源 VibeSDK：把一句话变成线上应用，用它一键搭好自己的 AI平台
Cloudflare VibeSDK 是开源 AI vibe coding 平台，跑在 Cloudflare 开发者生态上，支持自然语言生成全栈 Web 应用，有分阶段代码生成、交互式聊天等功能，适用于多类人群和场景，还对比了同类项目。
重磅发布！国家队出手解决企业跨省通信「老大难」，语音识别错误率暴降20%
企业全国语音通信业务曾面临交付周期长、AI应用门槛高的问题。联通云犀平台以「全云化架构+语音AI基座」破局，实现架构重构与AI进化，降低方言识别错误率，在多行业落地降本增效。
万字长文！大模型(LLM)推理优化技术总结（非常详细）
文章聚焦大模型推理优化技术，介绍推理过程分预填充与解码阶段，还阐述模型并行、注意力机制优化、模型优化及服务技术等，如多查询注意力减少内存，FlashAttention 优化计算顺序。
美团开源LongCat-Image，6B参数挑战80B效果，中英双语理解、图像逼真度及复杂指令编辑新突破
美团开源6B参数图像模型LongCat-Image，在双语文本理解、图像逼真度及复杂指令编辑任务中表现出色。它以轻量化设计超越大模型，还解决中文文本渲染难题，有精确图像编辑能力，且提供全链路开源方案。
LSTM之父向何恺明开炮：我学生才是残差学习奠基人
LSTM之父Jürgen Schmidhuber替学生Sepp Hochreiter发声，称残差学习30年前已诞生，1991年Sepp就用循环残差连接解决梯度消失问题，为残差思想奠基。他觉得将成果全归何恺明团队有失偏颇。
从技术狂欢到企业落地，智能编程的全球破局战
智能编程是AI应用增长快的赛道，正从代码补全迈向AI自主开发。国内模型能力提升，阿里Qwen3 - Coder超越部分闭源模型。阿里云通过多策略破局，其产品助力企业落地，但仍面临适配、安全等挑战。
13 万人收藏的 Openclaw 登顶GitHub No.1！附上超绝性价比部署指南！(保姆级)
Openclaw在GitHub上Star数近13万，登上多榜单TOP1。作者介绍用GitHub Codespaces零成本搭建其服务，搭配Kimi K2.5模型和Discord应用，还给出部署步骤、常见问题解决办法及功能演示。
对我来说，Claude Code 就是 AGI
作者分享项目中配置 Google Cloud Pub/Sub 服务的经历，以前手动或借助 ChatGPT 操作繁琐，现在用 Claude Code，只需描述问题，它就能自动完成分析、操作、验证等，作者认为其某种程度算 AGI。
万相2.6 X千问APP，功能价值和情绪价值兼具｜甲子光年
12月16日阿里发布视频生成模型“万相2.6”，实现“角色扮演”功能突破。千问APP接入后上线“AI小剧场”，打破次元壁。千问兼具功能与情绪价值，阿里全栈布局助力其成“超级入口”。