「分布式扩展」共找到 509 篇相关文章
Github斩获1.8K 星！！再见了按键精灵，Windows-MCP开源了！
今天介绍超酷开源项目Windows - MCP，它让AI与Windows系统互动，支持Win7到Win11。功能强大，不挑大模型，工具全、轻量开源、扩展性强。还给出安装步骤，不过使用时要谨慎。
智谱发布GLM 4.5，不仅开源模型还把训练框架也开源了
智谱AI发布GLM 4.5，不仅开源模型，还开源整套后训练基础设施。模型规格亮眼，性能也超越qwen 235b。其开源的训练框架slime专为强化学习扩展设计，完整工具链支持多种模型。
Cloudflare 发布公开测试版 Containers
Cloudflare宣布新的Containers服务发布公开测试版，可让开发者在其全球网络运行容器。该服务与Workers深度集成，能运行资源密集型应用等。虽有功能受限，但Reddit反馈积极，后续还有改进计划。
关键突破：理论验证了 RL for LLM 路线的可行性
传统RLHF依赖人工标注偏好数据训练奖励模型，成本高且难扩展。本文发现任何通过Next - token预测训练的LLM内部隐含通用奖励模型，从理论和实验证明其可高效实现模型对齐。
训练MoE足足提速70%！华为只用了3招
Scaling Law下，MoE成扩展模型能力法宝，但训练难题凸显。华为构建Adaptive Pipe & EDPB优化方案，还打造DeployMind仿真平台，解决了MoE训练中通信等待、负载不均等问题，使训练吞吐提升72.6%。
全新GPU高速互联设计，为大模型训练降本增效！北大/阶跃/曦智提出新一代高带宽域架构
随着大模型参数规模扩大，分布式训练成关键路径，高带宽域设计对提升训练效率至关重要。现有HBD架构在可扩展性、成本和容错能力等方面有局限，北大、阶跃、曦智团队提出InfiniteHBD架构解决问题。
LLM的“记忆外挂”来了！Supermemory新API：一行代码让LLM记忆“无限+省钱90%”
Supermemory公司发布Infinite Chat API，能让任何LLM有近乎无限上下文长度。用户一行代码就能切换，可扩展上下文、省90%成本、提性能，已上线，有免费试用额度，后续有固定费用和用量计费。
斩获4.1K star，再见tcpdump！这款开源神器让网络分析快如闪电！
Kyanos是基于eBPF技术的开源网络分析工具，能透视Linux内核网络活动，解决分布式系统网络难题。它零配置、有内核级透视和智能流量解密能力，功能丰富，应用场景广，相比同类优势明显。
一个提示攻破所有模型，OpenAI谷歌无一幸免！
HiddenLayer研究发现一种「策略傀儡」提示，将危险指令伪装成配置片段，配上角色扮演，能让ChatGPT等主流大模型开启「无限制模式」。此策略利用训练弱点，难修复且可扩展，厂商需智能监控。
智源悟界·RoboBrain Orca：多模态表征世界模型
智源研究院悟界·RoboBrain Orca团队发布技术报告，探索让模型学习世界表征，从‘预测下一个词’走向‘预测下一状态’。它通过多模态数据学习，经实验验证有效，虽处早期阶段，但提出值得扩展的方向。