「通信库」共找到 347 篇相关文章
Mini-sglang-01:从Client到Scheduler的消息流转之旅
文章围绕轻量化大模型推理系统mini - sglang,详细介绍消息从客户端经APIServer、Tokenizer到Scheduler的流转过程,分析核心组件功能、消息体系、正反向链路及优化策略,还预告后续分析调度和模型实现逻辑。
5.3K Star!OpenClaw 最强“军火库”,700+ Skills,一条命令全能“武装”!
OpenClaw火遍全网,但裸奔的Agent需技能加持。GitHub上的awesome - openclaw - skills已获5.3K Star,收录700 +实用技能插件,涵盖30 +领域,一行命令就能安装技能,是OpenClaw生态完整的技能索引库。
狂涨 2W+ star,安卓终于“满血”用上!
AirPods在非苹果设备上功能受限,而开源项目LibrePods打破这一限制。它由16岁印度少年开发,逆向解析协议,让非苹果设备伪装成苹果设备与耳机通信,解锁多项高级功能,已支持安卓和Linux。
NeurIPS 2025 | 蚂蚁CGM:图融合架构重塑代码大模型,探索非 Agent 新范式
在NeurIPS 2025上,蚂蚁将展示Code Graph Model (CGM)。它把代码库图结构集成到开源LLM,开启新范式,在代码库级任务上以非Agent方案登顶开放权重模型榜首,解决了复杂软件工程的Agent依赖难题。
让本地大模型不再重复推理的缓存技巧
本地跑大模型时,同样问题换说法问,模型又要重新推理。`constraint-cache`这个Python库可解决此问题,它将语义相似查询规范化为统一缓存键,实现近乎即时的重复查询响应,还避免了随机性响应问题。
黄仁勋台上最强GPU炸场,台下感叹“中国芯片爆发”,瞄准6G投资诺基亚
英伟达发布会上,黄仁勋官宣新GPU Vera Rubin,还谈及中国芯片爆发,夸中国模型成果显著。此外,英伟达公布量子计算、6G通信等领域布局,与诺基亚合作入局6G并投资,不过各领域均面临竞争。
联手诺基亚入局6G,老黄要制定全球标准!GTC最新演讲揭秘:「美国科技的未来」就靠这6张王牌
老黄在华盛顿 GTC 大会演讲,英伟达要和诺基亚合作干 6G,重新构筑世界通信系统。演讲涉及 6 大核心,包括利用物理人工智能和数字孪生技术重塑美国工业化等,还介绍了加速计算、AI 变革等多方面内容。
Vector数据库退位,AI记忆Memvid登场!
近期基于视频的AI记忆库Memvid大火,宣称革新AI记忆管理,能将文本片段存于MP4实现快速语义搜索。不过网友分析,它底层用FAISS,读写慢、文件大,仓库issues也显示其性能与声称相反。
叶子豪、陈天奇等人开源项目FlashInfer入选,MLSys2025最佳论文奖公布
近日,MLSys 2025公布最佳论文奖,FlashInfer等入选。FlashInfer由多机构合作发起,是灵活的LLM推理内核库,优化内存访问、有可定制模板和调度机制,性能提升显著。另一获奖论文提出Negativa - ML可消除ML框架臃肿。
英伟达开源深度研究引擎:企业级数据不出门,研究自动做
NVIDIA推出AI-Q Blueprint,将深度研究流水线打包成Agent Skill,解决企业级数据处理难题。它能让企业数据不出门,代理框架可派任务并获报告,还支持多种认证模式,代码库可本地部署,专为深度研究打磨。