搜索：模型架构升级

「模型架构升级」共找到 8912 篇相关文章

最强3B「小钢炮」，代码数据全公开！推理随意开关，128k超长上下文

Hugging Face推出30亿参数模型SmolLM3，支持128k长上下文，训练等全链路开放。它在架构、数据混合策略等多方面优化，性能超Llama3.2 - 3B等，还公开双模式指令模型构建方案。

随着AI发展，架构从单体到分布式演进，消息中间件成关键。Pulsar以存算分离等特性价值凸显，在多模态训练、模型训练、智能体等AI场景有独特优势，如处理超大消息、实现断点续训等。

开源AI编程工具OpenCode亮相，具备原生终端界面、多会话支持，兼容75种以上模型，提供桌面版和IDE插件。它允许沿用付费订阅，内置免费模型，与多种LSP服务器整合，适配多种编辑器，采用‘隐私优先’架构设计。

智谱继GLM4.5后又开源GLM - 4.5V，它是同级别开源SOTA视觉推理模型，在多模态理解榜单表现优异。文章实测其在科研全生命周期的应用，还介绍了模型架构设计和训练策略。

图灵奖得主杨立昆指出AI未越过三道认知墙，即看不懂物理世界、无长时记忆、无推理结构，提出JEPA架构及AMI概念，还建议别卷模型，应卷架构，如探索具身智能等领域。

本文介绍蚂蚁百灵开源的多模态大模型Ling-3.0-flash-VL，该模型采用稀疏混合专家架构，支持图片、视频、软件界面理解，可将视觉信息用于推理与任务执行，开放权重采用MIT许可证供开发者部署测试。

当大模型参数量冲向万亿级，AI 行业面临瓶颈。中兴通讯发布论文剖析困境，勾勒前沿方向。文中分析了 LLM 现状、架构瓶颈、AGI 争议等，还阐述了改进优化措施及下一代计算范式发展趋势，介绍了中兴的探索实践。

Kimi K2技术报告发布，Moonshot团队用万亿+参数稀疏MoE架构等打造接近Claude - Opus的通用大模型。围绕训练稳定性等改进，有预训练、架构设计等多方面创新，为智能体领域提供可行路径。

AI幻觉问题让企业意识到通用模型在专业场景的局限，需构建企业级知识库。腾讯在峰会上宣布升级知识库产品，乐享知识库通过AI赋能解决数据整合、更新等痛点，未来知识库将与业务深度联动。

Character AI和耶鲁大学团队推出开源模型OVI，它采用双骨干交叉模态融合架构，让音视频同步生成。其架构对称，用旋转位置嵌入技术对齐时间，训练策略分步进行，生成效果佳，为开源音视频生成提供新路径。