全4比特量化」共找到 1993 篇相关文章

算法论文8

拒绝计算“一视同仁”!Elastic Attention:让大模型学会“看人下菜碟”

现代大语言模型用注意力机制计算复杂度高,现有混合注意力策略是静态的。为此提出Elastic Attention,引入轻量级Attention Router,具备动态路由等亮点,在主流模型测试中效果好。

深度学习自然语言处理
产品应用8

「OpenClaw之父点赞」终结百虾大战?一场升级版的AI原生革命上演

2026年科技圈“百虾大战”正酣,网易有道量开源桌面Agent产品LobsterAI,获OpenClaw之父赞扬。有道还孵化多个Agent产品,重构底层逻辑,转变商业模式,深扎场景切片,探索“能力+订阅”范式。

新智元
产品应用7

jiSGLang集成ktransformers:2TB内存运行Kimi K2 Thinking模型

对于内存多但GPU资源有限的用户,SGLang集成ktransformers的CPU内核,支持直接运行Kimi K2 Thinking模型。它无需等量化,还能微调,虽性能与GPU方案有差距,但给用户新选择。

AI工程化
8

Github斩获1.8K 星!!再见了按键精灵,Windows-MCP开源了!

今天介绍超酷开源项目Windows - MCP,它让AI与Windows系统互动,支持Win7到Win11。功能强大,不挑大模型,工具、轻量开源、扩展性强。还给出安装步骤,不过使用时要谨慎。

开源先锋
开源动态7

14k颗星!你的电脑屏幕,正在成为AGI的“眼睛”!这款开源神器让你一键记录所有操作

介绍开源项目ScreenPipe,它是跨平台桌面数据抓取API,能维度记录数据,有沙盒化插件系统等功能。因能为AGI提供数据、对开发者友好而火,还给出安装和创建插件命令,称其有成为AGI时代“现实采集器”的野心。

GitHubStore
新闻资讯8

同一天两件大事!小模型直接掀翻千亿参数,走向效率为王

5月13日AI圈有两件大事,何恺明团队发布语言模型ELF,面壁智能开源MiniCPM-V 4.6。二者显示AI正从‘堆算力’转向‘省算力’,拉开AI轻量化浪潮序幕,未来小模型或成关注方向。

AI科技评论
算法论文8

正交化之外是什么?微软等提出ARO优化器:训练提速1/3,揭示矩阵优化新「蓝海」

微软研究院联合多校发布论文,提出新优化器 ARO。它将梯度旋转作为原则,能让大模型训练提速约 1/3,比 Muon 高效 10% - 15%,还能模型优化,揭示了矩阵优化新方向。

机器之心
新闻资讯8

Bun 推出内置数据库客户端与零配置前端开发

Bun 发布 1.3 版本,是迄今最大更新,实现栈开发,推出统一数据库 API 并提升性能。引入零配置前端开发模式,有内置 Redis 客户端,社区反响不一,还扩展包管理功能,性能提升显著。

InfoQ
产品应用8

阿里 Qwen3-TTS 两大更新直接封神!支持跨物种音色克隆,3 秒复刻!

阿里通义上线 Qwen3-TTS 两大核心能力,VoiceDesign 支持文本控制音色特征,VoiceClone 能 3 秒音频跨语言、跨物种克隆音色。更新指标亮眼,如 0.1 秒级生成速度等,还可上手体验。

开源星探
新闻资讯7

SpaceX一分现金没花收购Cursor,马斯克吞下AI编程工具第一名

SpaceX在IPO第四天,以600亿美元股票方式收购AI编程工具Cursor母公司Anysphere。Cursor商业增长快,但市场份额下降且算力不足。收购是马斯克算力布局收尾,还将发布联合模型及编程代理工具。

量子位