「Mini-SGLang」共找到 163 篇相关文章
一夜告别Token账单!端侧AGI真来了
2026年5月19日联想举办新品发布会,全球首发基于此芯Agentic SoC P1的联想AI主机P7与mini。P7小巧低功耗,算力强,有「一机双模」设计;mini更亲民。此芯P1构建端侧AGI算力矩阵,助力端侧AGI成现实。
仅隔一天,OpenAI同步上线o3和o4 mini,它们能调用ChatGPT里的多种工具,可基于图像思考。o3是强大推理模型,o4-mini专为快速经济推理优化。即日起部分会员可体验,还开源了Codex CLI。
SGLang Hierarchical Sparse Attention 技术深度解析
阿里云等团队推出面向 Sparse Attention 的分层稀疏化框架,介绍其架构、机制与实践。此框架破解了长上下文推理时的计算与容量瓶颈,以 DeepSeek DSA 集成测试,使推理性能大幅提升,目前项目处于开发阶段。
一文搞懂Codex连接控制:iPhone,MacBook,Mac mini,远程服务器
文章详细介绍 Codex 连接控制的三类方式:把 Mac 当主机让其他设备控制、用 Mac 控制其他 Codex 主机、让 Codex 连接远程开发机/服务器,还提及相关设置及注意事项。
别跟风买Mac Mini了!国产算力跑OpenClaw,只需5分钟
最近,Clawdbot爆火,OpenClaw仓库Stars涨至13万,但运行它消耗大,很多人用Ollama拉取本地模型。不过,Ollama只支持部分生态,国产芯片用户面临挑战。2026年2月2日开源的玄武CLI可解此难题。
Claude Code也要龙虾化!凌晨床上发条消息,Mac Mini瞬间亮屏狂敲代码
Claude Code团队宣布新增Channels功能,可通过MCP控制会话,首批支持Telegram和Discord。用户能手机远程控制AI写代码,目前已灰度测试。不过其功能依赖会话存活,后续或接入更多平台。
性能碾压GPT-4.1-mini!Mistral开源Devstral,还能在笔记本上跑
法国AI初创公司Mistral与All Hands AI合作,发布全新开源语言模型Devstral,有240亿参数,所需算力低,可本地部署。它能解决真实GitHub问题,在SWE基准测试中表现优于多个模型,还能通过API访问。
刚刚,OpenAI开源2个推理模型:笔记本/手机就能跑,性能接近o4-mini
OpenAI深夜开源gpt-oss-120b和gpt-oss-20b推理模型,距上次开源已6年。模型亮点多,性能强,在多方面表现超专有模型。官方还放实测视频,展示其使用效果,同时解释了开源原因。
Axiom Math 对谈 SGLang:模型的下一步是可验证,结果层才是真正的护城河
在AGI Playground 2026圆桌论坛,Axiom Math联合创始人等探讨AI核心问题。提到AI进入生产环境,可验证或成瓶颈,还从长任务智能体、推理基建等多方面深入交流,如模型验证、基建优化等。
开源要变天了,刚刚,OpenAI开源gpt-oss-20/120b,o4-mini水平,主打Agentic
OpenAI正式开源gpt-oss模型,Anthropic推出Claude Opus 4.1,Google DeepMind发布Genie 3。gpt-oss有20B和120B两个版本,前者可在边缘设备运行,后者综合能力强,在多方面表现出色。