「SGLang Kimi K3」共找到 753 篇相关文章
"将注意力旋转90°"：深入浅出解读 Kimi 最新出圈成果
Kimi论文‘ATTENTION RESIDUALS’引发AI圈热议，马斯克等大佬高度评价。该论文由17岁高中生陈广宇参与，提出‘注意力残差’机制，解决标准残差问题，分全、分块注意力残差，权衡开销与效果。
4 个月狂飙 22k Star，这本书凭什么？
Github上超火的开源项目《LLMs-from-scratch》中文版4月上市，4个月涨超22k Star。作者实操搭建类GPT - 2模型，涵盖大模型构建全流程。用PyTorch开发，代码少且有注释，对初学者友好，豆瓣评分9.3。
有了它，太丝滑啦，5.3k Star ai-memory！！！
Claude Code 与 Codex 切换时需重述项目情况，5.3k Star 的 ai-memory 解决此问题，它将 Agent 生命周期信息整理成可 Git 管理的 Markdown Wiki，提供可审计的交接班机制。
刚刚，字节开源Seed-OSS-36B模型，512k上下文
深夜，字节跳动Seed团队开源Seed-OSS系列模型，含三个版本。其用12万亿tokens训练，在多基准测试表现出色。有灵活推理预算控制等特性，原生支持512K上下文窗口，基准测试成绩佳。
狂涨 10.3k star！共享虚拟浏览器，太酷了！
今天分享项目`Neko`，是基于Docker的虚拟浏览器，用WebRTC技术服务。能在安全隔离环境上网、浏览、运行程序，适合和人共享页面，可一起观影、购物、协同工作，目前在Github获10.3K star。
SGLang支持GPT-OSS：从Day 0支持到性能增强
SGLang宣布重大更新，聚焦openai/gpt - oss - 120b模型深度性能优化与新功能。预填充和解码阶段吞吐量显著提升，支持多GPU，有推测解码等功能，还支持智能体应用程序，且不损害模型推理能力。
103K「硬核」题，让大模型突破数学推理瓶颈
现有大语言模型在数学推理训练时面临数据瓶颈，腾讯AI Lab与上海交大团队推出DeepMath - 103K数据集。它规模大、难度高、数据新颖、严格去污染，让DeepMath系列模型达SOTA，还能实现推理泛化。
美团开源Agentic新王，速度拉满，工具调用打爆Kimi？
周末美团开源LongCat - Flash大模型，参数量560B，推理速度达100 token/s，成本低，在Agent工具调用表现超Kimi - K2。它有Zero - Computation Experts和ScMoE创新，不过市场表现未获太多认可。
Mini-sglang-01：从Client到Scheduler的消息流转之旅
文章围绕轻量化大模型推理系统mini - sglang，详细介绍消息从客户端经APIServer、Tokenizer到Scheduler的流转过程，分析核心组件功能、消息体系、正反向链路及优化策略，还预告后续分析调度和模型实现逻辑。
又一个Kimi K3下周开源！Qwen3.8-Max编程、办公、科研都能自己干了
Qwen3.8-Max是Qwen家族迄今最强模型，2.4万亿参数，下周将开源权重。它在多项基准测试中表现出色，能连续自主工作数天，在编程、办公、科研、长周期任务、多模态等方面全面提升。