「稀疏化」共找到 853 篇相关文章
第二代InfLLM开源,同尺寸快三倍!零参数,可训练稀疏注意力
新智元报道,清华、OpenBMB和哈工大提出零额外参数、训练高效的原生稀疏注意力框架InfLLM-V2,仅用5B长文本词元就能完成训练,相比稠密注意力机制有显著加速,性能接近传统稠密模型。
Claude Code也要龙虾化!凌晨床上发条消息,Mac Mini瞬间亮屏狂敲代码
Claude Code团队宣布新增Channels功能,可通过MCP控制会话,首批支持Telegram和Discord。用户能手机远程控制AI写代码,目前已灰度测试。不过其功能依赖会话存活,后续或接入更多平台。
GLM-5架构曝光,智谱两日涨60%:采用DeepSeek同款稀疏注意力
GitHub代码确认GLM - 5架构细节,它采用DeepSeek - V3/V3.2架构,含稀疏注意力和多Token预测,参数量745B。OpenRouter上神秘「Pony Alpha」被指是其测试版,受消息影响智谱AI港股两日涨60%。
AI 推理精细化流量治理实战:RocketMQ LiteTopic 的“千人千面”流控方案
随着大模型推理服务成主流,传统消息队列限流机制在AI推理场景面临挑战。Apache RocketMQ 5.x推出LiteTopic,其精细化流量治理方案能实现‘千人千面’,解决队列头部阻塞和并发效率受损问题,还与阿里云百炼网关合作。
多模态开发革命!Gabber开源:图形化构建实时AI应用,效率提升10倍!
AI应用迈向多模态交互,传统开发方式周期长。开源项目Gabber是实时AI应用引擎,通过模块化与图形化简化开发,有诸多特性,还给出安装指南,适用于多种场景。
GPU 开始伸手进算法了:摩尔线程要加速 3D 高斯训练 | ECCV 2026
摩尔线程团队论文LiteGS被ECCV 2026接收,旨在加速3DGS训练。它从GPU底层光栅化、数据排列及致密化判断三层改进,进行系统与算法协同设计,开源后成果显著。
谷歌Pixel发布汇总:硬件与软件全面AI化,那谁你就学叭
谷歌2025年硬件发布会展示众多AI能力,如Gemini驱动的健康教练、拍摄指导、智能大屏设备等。Pixel 10手机搭载芯片可本地运行模型,还有多项实用AI功能,凸显硬件与软件全面AI化趋势。
大模型训练的不稳定性有望彻底解决,MIT新研究用谱正则化替代层归一化
MIT团队创造Lipschitz Transformer,用谱正则化替代层归一化,认为或解决训练不稳定根本原因。他们对比多种方法权衡,发现Muon + 奇异值裁剪推动权衡边界,且工作完全开源。
卷赢OpenAI也没用!Salesforce用100万次对话揭秘:AI Agent最大的坑,根本不是技术!
Salesforce处理超100万次AI Agent与客户对话后复盘,指出行业追求“全自动化”是陷阱。AI Agent不仅要融合非结构化和结构化数据,还需提升人工介入率,遵循“同理心优先”原则。
美团龙猫LongCat技术升级!新注意力机制解码速度快10倍,还能处理1M超长文本
美团龙猫LongCat系列发布全新稀疏注意力机制LoZA,重点解决长文本任务难题。它在MLA机制基础改造,计算复杂度降至线性,处理128K上下文解码快10倍,性能不缩水,后续还计划支持动态稀疏比例。