开源动态7
REAP框架:大模型内存节省新方案
AI工程化
AI 摘要
Cerebras Research的REAP框架为SMoE模型‘瘦身’,省50%内存,像Qwen3 - Coder - 30B能变小。它动态评估专家,不过社区测试结果有差异,还面临调度开销、泛化能力等问题。
阅读原文 · AI工程化
这个框架让大模型省下50%内存,合并专家不如直接删掉?
Cerebras Research提出REAP框架,通过专家剪枝和合并技术压缩SMoE模型,能让模型‘瘦身’并保持性能,可省50%内存,但社区测试有不同结果,且存在调度开销等问题。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
开源动态7
27.2k Star FastMCP:让MCP工程化
文章介绍了27.2k Star的FastMCP,它是Python MCP应用框架,能让普通Python函数成为MCP工具。讲了其适合场景、省事原因及上线安全边界,还给出了适用人群和注意点。
小华同学ai
开源动态8
腾讯开源框架,一句话造3D世界
香港科技大学(广州)和腾讯团队开源VibeWorlding框架,实现说句话造3D世界。它由VWE - Bench和VibeWorlding - Gym组成,开源模型经强化学习训练后成绩逆袭,证明强化学习解锁3D推理潜力巨大。
AIGC开放社区
开源动态7
Qwen3.8 - 27B登顶开源榜,挑战闭源模型
8月17日,阿里发布的Qwen3.8 - 27B成Hugging Face热门第一。它以27B参数在部分测试中与前沿闭源模型比肩,可本地运行。不过推理慢、真实任务表现待提升,它让前沿Agent能力下放到个人电脑。
AI科技评论
开源动态8
近5w星!Orca可同时指挥多AI写代码
现在写代码,很多人想开多个AI助手。Orca是支持多AI Agent的编程开发环境,各Agent在独立git worktree里运行,互不干扰。它功能丰富,还支持多系统安装。
GitHubStore