稀疏化」共找到 853 篇相关文章

开源动态8

第二代InfLLM开源,同尺寸快三倍!零参数,可训练稀疏注意力

新智元报道,清华、OpenBMB和哈工大提出零额外参数、训练高效的原生稀疏注意力框架InfLLM-V2,仅用5B长文本词元就能完成训练,相比稠密注意力机制有显著加速,性能接近传统稠密模型。

新智元
产品应用7

Claude Code也要龙虾!凌晨床上发条消息,Mac Mini瞬间亮屏狂敲代码

Claude Code团队宣布新增Channels功能,可通过MCP控制会话,首批支持Telegram和Discord。用户能手机远程控制AI写代码,目前已灰度测试。不过其功能依赖会话存活,后续或接入更多平台。

新智元
新闻资讯7

GLM-5架构曝光,智谱两日涨60%:采用DeepSeek同款稀疏注意力

GitHub代码确认GLM - 5架构细节,它采用DeepSeek - V3/V3.2架构,含稀疏注意力和多Token预测,参数量745B。OpenRouter上神秘「Pony Alpha」被指是其测试版,受消息影响智谱AI港股两日涨60%。

量子位
产品应用8

AI 推理精细流量治理实战:RocketMQ LiteTopic 的“千人千面”流控方案

随着大模型推理服务成主流,传统消息队列限流机制在AI推理场景面临挑战。Apache RocketMQ 5.x推出LiteTopic,其精细流量治理方案能实现‘千人千面’,解决队列头部阻塞和并发效率受损问题,还与阿里云百炼网关合作。

阿里云开发者
开源动态8

多模态开发革命!Gabber开源:图形构建实时AI应用,效率提升10倍!

AI应用迈向多模态交互,传统开发方式周期长。开源项目Gabber是实时AI应用引擎,通过模块与图形开发,有诸多特性,还给出安装指南,适用于多种场景。

开源星探
算法论文8

GPU 开始伸手进算法了:摩尔线程要加速 3D 高斯训练 | ECCV 2026

摩尔线程团队论文LiteGS被ECCV 2026接收,旨在加速3DGS训练。它从GPU底层光栅、数据排列及致密判断三层改进,进行系统与算法协同设计,开源后成果显著。

AI科技评论
新闻资讯8

谷歌Pixel发布汇总:硬件与软件全面AI,那谁你就学叭

谷歌2025年硬件发布会展示众多AI能力,如Gemini驱动的健康教练、拍摄指导、智能大屏设备等。Pixel 10手机搭载芯片可本地运行模型,还有多项实用AI功能,凸显硬件与软件全面AI趋势。

歸藏的AI工具箱
算法论文8

大模型训练的不稳定性有望彻底解决,MIT新研究用谱正则替代层归一

MIT团队创造Lipschitz Transformer,用谱正则替代层归一,认为或解决训练不稳定根本原因。他们对比多种方法权衡,发现Muon + 奇异值裁剪推动权衡边界,且工作完全开源。

AGI Hunt
新闻资讯7

卷赢OpenAI也没用!Salesforce用100万次对话揭秘:AI Agent最大的坑,根本不是技术!

Salesforce处理超100万次AI Agent与客户对话后复盘,指出行业追求“全自动”是陷阱。AI Agent不仅要融合非结构和结构数据,还需提升人工介入率,遵循“同理心优先”原则。

探索AGI
产品应用8

美团龙猫LongCat技术升级!新注意力机制解码速度快10倍,还能处理1M超长文本

美团龙猫LongCat系列发布全新稀疏注意力机制LoZA,重点解决长文本任务难题。它在MLA机制基础改造,计算复杂度降至线性,处理128K上下文解码快10倍,性能不缩水,后续还计划支持动态稀疏比例。

量子位