「架构参数」共找到 2361 篇相关文章
何恺明首个语言模型：105M参数，不走GPT自回归老路
何恺明团队推出全新连续扩散语言模型ELF，不走GPT自回归老路。它将生成过程留在连续embedding空间，最后离散化变回token。ELF用较少参数、训练token和采样步数，跑赢主流扩散语言模型。
Ray异构融合底座重构数据管道：架构演进与万卡落地实践
文章指出大模型发展下，传统大数据引擎在多模态数据处理局限性凸显。腾讯基于Ray构建新一代数据管道，介绍了云原生调度与计算范式融合架构，详述容错、资源利用等方面优化实践，展示了重构收益。
第二代InfLLM开源，同尺寸快三倍！零参数，可训练稀疏注意力
新智元报道，清华、OpenBMB和哈工大提出零额外参数、训练高效的原生稀疏注意力框架InfLLM-V2，仅用5B长文本词元就能完成训练，相比稠密注意力机制有显著加速，性能接近传统稠密模型。
加一个JVM参数，让系统可用率从95%提高到99.995%
文章针对高并发系统不稳定问题，定位是系统内存索引切换时 GC 压力大所致。围绕让索引尽早晋升、直接分配到老年代等思路探索优化，经多番尝试，最终实现索引无感切换，使系统可用率达 99.995%。
ACL2025 | 传统符号语言传递知识太低效？探索LLM高效参数迁移可行性
中科院自动化所谭宇乔等研究跨规模大模型参数知识迁移（PKT）可行性。指出传统符号语言传递知识低效，LLM 模仿此范式也有局限。提出新 Pre - Align PKT 范式，实验分析 PKT 效果，揭示神经不兼容性致其失败。
硬核拆解 Hermes-Agent：自学习 Skill 机制的架构设计与实现原理。
文章围绕Hermes - Agent展开，指出多数Agent缺乏自学习能力，而它试图跨越这一鸿沟，能自动“写手册”（Skill）。介绍其架构、安装配置，通过代码审计任务演示自学习过程，并解析Skill机制，为生产级Agent提供新思路。
开启端侧长文本时代！面壁全新架构，让小钢炮最快提升220倍
2025智源大会上，面壁智能发布MiniCPM 4.0模型，实现行业首个系统级上下文稀疏语言模型创新。它在端侧推理任务上表现出色，降低缓存需求，提高运行效能，还进行多维度架构创新，是AI领域探索高效率语言模型的里程碑。
【深度长文】从“会聊天”到“能干活”：OpenClaw架构深度拆解与价值挖掘
文章深度拆解 OpenClaw 架构，指出传统 SaaS 走向末路，OpenAI Operator 有局限。OpenClaw 以本地原生机制崛起，具备诸多优势，还介绍了其安全方案及五大高价值商业场景，鼓励关注学习。
万亿AI存储鸿沟如何填平？
文章指出AI存储迎来爆发期，新一代分布式存储成主流。分析存力需求变化、传统存储架构问题，介绍Universal Storage架构优势，还提及对标Vast Data的公司画像，认为新一代存储软件赛道值得关注。
不靠Agent，4步修复真Bug！蚂蚁CGM登顶SWE-Bench开源榜
蚂蚁集团代码图模型 CGM 基于开源模型，不靠 Agent 架构，用 4 步轻量级流程完成仓库级代码修复，在 SWE - BenchLite 公开排行榜成绩亮眼，打破闭源垄断，还解决了 LLM + Agent 架构的一些问题。