「大规模计算」共找到 880 篇相关文章
Transformer创新架构SALA：上下文更长，推理更快
面壁智能发布行业首个大规模训练的稀疏 - 线性注意力混合架构 SALA 及文本模型 MiniCPM - SALA。该架构降低推理开销与显存占用，MiniCPM - SALA 在长文本处理及推理上表现出色，还发起大奖赛探索性能极限。
32k微调处理百万Token：21倍的推理加速，10倍的峰值显存节省，实现恒定内存消耗
现有大模型处理超长文档易内存爆炸、计算崩溃。阿里巴巴未来生活实验室推出CoMeT架构，有双轨并行记忆系统，能恒定内存、线性时间处理文本，在基准测试超主流方法，实现21倍推理加速和10倍显存节省。
Meta元宇宙部门狂裁千人：一醒来就收到邮件，刚入职也未能幸免
彭博社消息，Meta调整元宇宙业务，大规模裁撤Reality Labs超1000岗位。此前已确认削减元宇宙资源投入，省下资源用于AI硬件等。此次裁员是因该部门亏损超700亿，Meta战略转向AI。
智算，云厂商的下一个战场
随着大模型技术走向产业，企业需算存网数一体的高性能智算底座。领先云厂商积极升级能力，如腾讯云推出“云智算”，在计算、存储等方面布局迭代，还在多领域与企业合作，推动智算发展。
太初元碁乔梁：AI算法已经跑到单芯片极限｜MEET2026
在量子位MEET2026智能未来大会上，太初元碁乔梁表示，当下AI算力需求指数级增长，超智融合成行业共识。单颗芯片性能成瓶颈，太初元碁设计PC link实现芯片互联，还分享了HPC+AI在多领域的落地实践。
DeepSeek-V3.2正式版发布，将开源模型的能力推向极致
DeepSeek-V3.2正式版开源，包含标准版和Special版。它采用稀疏注意力机制，降低计算复杂度。后训练阶段有多项算法改进，支撑高难度推理。还融合思考与工具使用，合成训练数据，在智能体评测表现优异。
强化学习 AI 系统的设计实现及未来发展
本文是阿里巴巴算法专家曹宇在AICon 2025北京站的分享。从RLHF系统出发，结合实践展示RL系统现状与发展，探讨超大规模RL方向，涉及理论、业界实践、开源生态等，还介绍了AICon北京站活动。
DeepSeek-OCR降本增效，10×暴力压缩还能读得清
Deepseek - OCR模型发布，通过光学压缩技术解决长文本处理的计算效率问题，能控制大模型token消耗成本。介绍了其架构设计、数据引擎及训练流程，还展示其用较少token超越现有模型的能力。
为MoE解绑：全新「专家即服务」推理架构发布，超细粒度扩展锐减37.5%成本
近年来大模型推理开销增长，MoE架构虽能避免计算量同比增，但带来扩展性差、容错性低、负载不均等问题。为此作者提出全新「专家即服务」推理架构EaaS，实验显示它能锐减37.5%成本。
AI 应用开发的破局之路：字节跳动 Eino 框架实践
在 InfoQ 举办的 QCon 全球软件开发大会上，字节跳动沈桐介绍 Eino 框架在组件抽象和业务编排的创新实践。该框架以大模型为基础，解决应用开发中节点、信息流转和沉淀框架的问题，还给出开发实例，展望了未来重点方向。