「在离线混部」共找到 8227 篇相关文章
谷歌开源Gemma 3n：2G内存就能跑，100亿参数内最强多模态模型
本周五凌晨，谷歌正式发布、开源全新端侧多模态大模型 Gemma 3n。它有多模态设计、专为设备端优化等特性，核心是 MatFormer 架构，还采用了 PLE 技术等，在多方面实现质量提升。
The Batch：826 | 提高输出准确性的记忆层
通常提高大语言模型事实准确性需更大模型规模，会增加计算成本。Meta研究人员在transformer架构加可训练记忆层，可高效存储提取信息，提升计算效率，测试显示其能提升模型输出质量。
用AI把一段视频变成可视化网页，Google的新模型又卷飞了。
Google将Gemini 2.5 Pro更新为05 - 06版，此版代码能力在WebDev Arena盲测竞技场登顶，还提升视频理解能力，可将视频变成可视化网页，虽产品有不足，但模型进步值得肯定。
ICML 2025 | M+框架来了，增加LLM隐空间记忆，不再受上下文窗口限制
本文提出M+长期隐空间记忆扩展框架，在MemoryLLM之上，将8B级模型有效记忆跨度从不到20k提升到160k+，显存占用不变。它解决了现有记忆模型冗余、冲突难解等问题，为下一代语言模型提供支撑。
单卡即可微调大模型！内存占用仅1/8，性能依然拉满 | ICML 2025
基础大模型应用于下游任务时微调成本高，低秩适应（LoRA）方法虽降低成本，但性能不及全量微调。华中科技大学和香港中文大学团队提出GOAT框架，在25个多领域任务验证效果好，内存占用仅1/8。
The Batch: 978 | DeepSeek-V4-Pro 更新了
DeepSeek发布旗舰模型DeepSeek-V4-Pro-0813正式版，性能提升，还发布开源agent harness开发者预览版并提价。模型在多指标表现佳，编码能力改进明显，公司公开基准测试框架意义大。
中国科学家首创万能热缩电子皮肤，加热即贴合，怎么扭曲都不坏
中国科学院理化技术研究所国瑞研究员等联合团队发明“热缩”制造新方法，将半液态金属电路印在热塑性薄膜上，加热后能包裹物体表面，解决传统刚性材料电路失效问题，具高耐用性。
让大模型自己写代码、自己进化，GIM和港大这篇ACL主会，把量化因子挖掘重做了一遍
香港大学和GIM提出CogAlpha框架，将Alpha从‘公式’升级为‘代码’，搭建7层21个智能体探索体系，让大模型参与研究流程。在5个数据集上跑赢21个基线方法，还具可解释性。
光轮智能完成 10 亿元融资，全球首个具身数据独角兽诞生
近日光轮智能完成10亿元A++及A+++轮融资，成全球首个具身数据独角兽。其构建具身规模化数据与仿真引擎，在三领域成全球交付冠军，还推动行业基础设施建设。
马斯克脑机接口，靠意念玩游戏只是基操，下一代设备性能翻三倍
近日，马斯克转发帖子，Neuralink植入脑芯片患者能用意念玩游戏。全球21人参与其临床试验，患者借此控制设备，生活改变。下一代设备性能将提升三倍，2026年或推出，还在开发复明设备。