「Mini-SGLang」共找到 167 篇相关文章

新闻资讯7

当500个AI 被放进一个社交平台自由行动,会发生什么?

阿姆斯特丹大学研究人员将500个GPT - 4o mini聊天机器人放入极简社交平台实验,发现其复现人类社交媒体三大顽疾,六种干预措施全部失效,问题源于平台架构本身。

AGI Hunt
开源动态8

马斯克掀桌子了,最强开源大模型诞生!Grok-2近万亿参数性能首曝

xAI官宣向所有人开源Grok - 2,其有9050亿参数、128k上下文窗口等强大技术规格。还梳理了开源部分、技术特点、权限等,介绍使用方法,网友和大佬高度评价,马斯克预告后续计划。

新智元
开源动态8

智谱首秀工程实战经验!Coding Agent日均数亿次调用,GLM-5把长上下文推理的底层问题全逼出来了

今年 2 月智谱 GLM Coding Plan 上线后很受欢迎,随着用户和调用量上涨,Coding Agent 成压力测试场。4 月 30 日智谱发布博客,披露 GLM - 5 系列模型在超大规模 Coding Agent 调用场景下的底层推理技术突破及工程实践经验。

InfoQ
新闻资讯7

爆火Clawdbot被Claude公司强制要求改名

AI智能体Clawdbot爆火后,被Claude公司强制更名。开发者Peter虽认为名字合法,但最终妥协,新名为Moltbot。Moltbot功能强大,此前爆火带火Mac Mini销量,此次更名引发粉丝不满。

量子位
推荐文章7

Reorx:OpenClaw 正在重塑我的数字生活,以及为什么我退订了所有 SaaS

知名技术博主 Reorx 记录用 OpenClaw 将工作流从“云端租赁”迁回“本地私有”的过程。AI 正从云端服务变为本地基础设施,他退订 SaaS 用 OpenClaw 重塑数字生活,虽有不足但能拿回数据控制权。

AI科技大本营
产品应用7

在 Mac 上安装最新版 OpenClaw 并接入企业微信之后,一切都改变了

文章介绍在Mac上安装最新版OpenClaw及接入企业微信的方法。新版本功能增强,安装后可连接多种工具。接入企业微信后,能实现诸多功能,如分析股价、制定健身计划等,还能拓展写作等技能。

MacTalk
推荐文章8

大语言模型的解耦:人工智能基础设施的下一轮进化

人工智能模型发展快,但基础设施滞后,传统单体式服务器架构成瓶颈。文章介绍大语言模型推理的预填充与解码阶段差异,指出解耦架构可突破困境,还阐述其经济影响、实施策略、应用案例及未来展望。

InfoQ
开源动态7

OpenAI解密大模型失控:它不是变坏,而是「太听话」

OpenAI公开IH - Challenge,解决大模型指令冲突难题。指出大模型问题多因听信错误指令,给出系统>开发者>用户>工具的指令层级结构,设计数据集训练模型遵循高信任等级指令,提升安全可控性与抵御提示词注入能力。

新智元
开源动态7

开源大模型实战:GPT-OSS本地部署与全面测评

2025年8月5日,OpenAI发布GPT-OSS-120B和GPT-OSS-20B开放轻量级语言模型,采用Apache 2.0开源许可证。文章介绍通过Ollama本地部署GPT-OSS -20B模型的方法,并对其进行AI幻觉、算法、SQL、数学题等测试。

机器学习AI算法工程
新闻资讯7

爆冷!字节Seed 在CCPC 决赛只做出一道签到题,而DeepSeek R1 直接挂零?

第十届 CCPC 举行,字节 Seed 携 Seed - Thinking 参赛,仅做出一题,DeepSeek R1 挂零。不同模型架构在比赛中差异不大,暴露出大模型做算法题短板,推理模式模型表现更好。

AI前线