「PCIe 6.0」共找到 1610 篇相关文章
攻克大模型训推差异难题，蚂蚁开源新一代推理模型Ring-flash-2.0
9月19日，蚂蚁百灵大模型团队开源新一代推理模型Ring-flash-2.0，独创棒冰算法解决训推差异难题，实现稳定训练。该模型仅激活6.1B参数就能打平40B Dense模型性能，降低推理成本。
6.1B激活，三榜开源第一！蚂蚁·安诊儿医疗大模型发布
由浙江省卫生健康信息中心等联合研发的开源医疗语言模型AntAngelMed发布。它基于Ling - flash - 2.0，100B总参数仅激活6.1B达约40B密集模型性能，在多个权威医疗基准测评中居前列，采用三阶段训练流程，高效MoE架构。
ACL2025 | 抓出0.1%的捣乱分子压缩方法OTT：近乎无损 超越KIVI，内存减6.4倍 吞吐量提2.3倍
LLM生成文本时KV Cache内存占用高，限制模型批量处理能力。论文提出OTT方法，动态追踪异常令牌单独高精度保存，其余压缩。实验显示，它准确性高、效率好，不过在极短文本等场景有局限。
Andrej Karpathy 爆火演讲刷屏技术圈：AI 开启软件 3.0，重写一切的时代来了！
Andrej Karpathy 在旧金山 AI 创业学校演讲，指出 AI 开启软件 3.0 时代，自然语言成编程接口。软件经历 1.0 代码、2.0 神经网络权重，现进入 3.0 用提示词编程大模型阶段，还探讨大模型特性、应用及相关问题。
第一个用物理做计算原语的大规模生成模型Un-0来了，或将AI能耗降低1000倍？
Unconventional AI 发布首个以物理为计算原语的大规模生成模型 Un-0，由‘模拟耦合振子系统’驱动。其目标是降低 AI 能耗，在 ImageNet 64×64 上 FID 达 6.74，质量接近部分主流传统图像生成方法刚发布时水平。
6.1k星星！开源流式MoE推理框架，仅需2.5G内存就能运行350亿参数模型，手机电脑都能跑
本文介绍了获6.1k GitHub Star的开源流式MoE推理框架Edge0，该框架通过SSD专家卸载、路由预测和Recover-LoRA技术，仅需2.5G内存即可运行350亿参数大模型，支持多平台部署运行。
证明大爆炸，数学界变天！AI把陶哲轩逼出「数学 2.0」
本文报道菲尔兹奖得主陶哲轩发表《数学2.0》演讲，梳理近期AI接连攻克重大数学难题的进展，提出AI将数学带入证明过剩的新时代，警示人类不能丢失对数学的理解，呼吁人机合作增强认知。
内存四年涨700%，长鑫LPDDR6送样能把价格打下来吗
近期“长鑫DDR6送审”刷屏，实则涉及技术进度、资本事件、供应链前置动作。文章分析长鑫进展含金量，认为国产DRAM首次和国际标准处同一窗口。此轮存储涨价因HBM抽走通用产能，长鑫或补通用市场空缺。
蚂蚁百灵新一代Ling-3.0开源，智效比13.2，124B释放1T能力
蚂蚁百灵新一代模型Ling-3.0开源，有flash和tiny两版本。Ling-3.0-flash参数量124B，智效比13.2，输出快成本低；Ling-3.0-tiny参数量7.9B，激活少且适用多场景，二者都极致挖掘模型效率。
经验记忆黑科技：LightSearcher让AI工具调用减39.6%、推理快48.6%
现有的 RL 驱动的深度思考大模型系统面临准确率与效率的「跷跷板」困境，北邮百家 AI 团队提出 LightSearcher 框架，解决了这一痛点，在保持准确率的同时，显著提升了工具调用效率。