「SGLang Kimi K3」共找到 749 篇相关文章
Cursor 套壳、Cloudflare 上架、老黄邀请，中国模型杀进了硅谷的 AI 供应链
3月19日，Cursor发布新模型Composer 2，后被发现底层基于中国Kimi开源模型K2.5微调。此外，Cloudflare将K2.5上架到边缘计算平台，成本降77%；黄仁勋邀Kimi创始人演讲；马斯克两度点赞Kimi。
清华开源首个股票k线大模型
清华开源首个股票K线大模型Kronos，是专为金融市场K线序列预训练的模型，处理金融数据高噪声特性。采用两阶段框架，有安装、预测步骤，还有批量预测方法，项目地址为https://github.com/shiyu-coder/Kronos。
记录下SGLang 开发，编译和Profile的几个小技巧
作者记录在SGLang开源一年学到的开发和Profile技巧。包括解决perfetto可视化PyTorch Profiler结果时kernel丢失问题、PR切换分支方法，还介绍让SGLang无视版本运行以定位bug的方法。
MUSA获得SGLang主线支持！5月10日北京，AI Meetup等你来
5月10日北京将举办「SGLang × MUSA」技术沙龙。契机是摩尔线程MUSA后端加入SGLang官方支持体系，代码合入主线，开发者可原生调用摩尔线程GPU。还将探讨框架适配、算子编译等议题。
Agent Infra 实践复盘：Kimi 如何搭建 Agent 背后的 Database 服务
PingCAP 联合创始人黄东旭复盘 TiDB Cloud 为 Kimi Agent 提供服务的细节。指出 Agent infra 面向大众用户，要最小化 Agent 使用工具的摩擦，实现低成本。Kimi 与 TiDB 合作是范例，展现 Agent 基建的新趋势。
马斯克惊叹！DeepSeek和Kimi先后出手，捅破了Transformer的「潜规则」！
文章介绍了DeepSeek和Kimi在残差连接上的突破。DeepSeek让连接权重可学习，用数学约束保证稳定性；Kimi将注意力机制用于层间连接，解决了更根本的问题，性能提升显著。
Kimi新模型拿下代码开源SOTA，仅仅72B，发布即开源
深夜，Kimi发布新开源代码模型Kimi - Dev，在SWE - bench Verified上以60.4%成绩获开源SOTA。参数量72B，编程水平强。采用MIT协议，权重和代码已发布。官方透露了部分关键技术，更多细节待后续报告。
最受欢迎的开源大模型推理框架 vLLM、SGLang 是如何炼成的？
文章介绍了开源推理引擎 vLLM 和 SGLang，包括起源、创新、社区发展、版本迭代等。vLLM 借鉴分页缓存管理技术，SGLang 基于 RadixAttention 优化。二者竞争激烈，性能趋同，还获投资与基金会关注，受科技公司青睐。
融资 1200亿后 Kimi 再扔王牌，新架构爆改 Transformer 老配件，比 DeepSeek 同款还省钱
Kimi 发布新论文，提出“注意力残差”架构改进 Transformer 残差连接，解决“稀释问题”，让 AI 更聪明、更省钱，还推出“分块注意力残差”优化成本。与 DeepSeek 方案对比，Kimi 方案性价比更高。
Kimi开源新线性注意力架构，首次超越全注意力模型，推理速度暴涨6倍
月之暗面发布开源Kimi Linear架构，用新注意力机制首次超越全注意力模型。长上下文任务中，它减少75%的KV缓存需求，推理加速达6倍。核心创新Kimi Delta Attention有细粒度遗忘门控等特点。