「软件优化」共找到 1801 篇相关文章
刚刚,英伟达新模型上线!4B推理狂飙53倍,全新注意力架构超越Mamba 2
Jet - Nemotron是英伟达推出的小模型系列(2B/4B),由全华人团队打造。其提出PostNAS与JetBlock,实现架构优化。相比Qwen3等模型,它在多维度准确率更高,H100 GPU上推理吞吐量最高提升53倍。
稀土分离最难的一步,美国公司想用量子计算和机器人实验室来解决
稀土分离是稀土供应链中技术资本门槛最高的环节,传统方法依赖大量试错效率低。美国稀土公司USA Rare Earth联合两家科技公司,计划用量子机器学习加自动化实验室研发新型萃取剂,优化分离工艺,验证量子方法的工业价值。
智谱开启狂飙模式!7倍提速,全球最快,旗舰模型即问即答
5月22日,智谱上线GLM - 5.1高速版API,输出速度达400 tokens/s,刷新全球大模型API速度纪录,比原版提速约7倍。该速度由GLM团队和TileRT团队联合打造,核心优化分三层推进,且是稳定可用的生产级能力。
端到端语音模型:从语音表征到模型架构
本文整理自阶跃星辰语音模型负责人杨学锐在2025年QCon全球软件开发大会的分享。介绍大模型对语音技术的重塑,涵盖识别、合成等方面;阐述端到端语音模型构建,涉及表征、架构、训推和任务;还提及模型评估方法。
张一甲:2025人工智能产业30条判断 | 甲子光年
甲子光年创始人张一甲在「2025甲子引力年终盛典」发布《轰然成势 万象归一:2025人工智能产业30条判断》报告。报告指出AI已“轰然成势”,进入“默认式AI”时代,还从技术、产品、产业、社会等方面给出30条判断。
腾讯混元世界模型1.1开源:单卡秒级重建3D世界成为现实
腾讯混元团队开源混元世界模型1.1,它是混元3D世界模型1.0升级版。新增多视图及视频输入,单卡可部署,秒级创造3D世界。有核心突破,能处理多任务,经训练策略优化,多测试表现佳。
6.1B打平40B Dense模型,蚂蚁开源最新MoE模型Ling-flash-2.0
蚂蚁百灵大模型团队开源 MoE 大模型 Ling-flash-2.0,其以轻量级配置展现卓越性能,在推理速度、任务性能、部署成本间找到新平衡,为大模型‘参数膨胀’提供新路径,还在多领域应用表现出色。
斯坦福提出新的RL范式,让3B模型的Agent超越Claude、GPT-4
斯坦福提出新的RL范式,让小模型Qwen2.5 - 3B经训练后性能超越Claude - 3.5 - Sonnet等大模型。论文解决了RL在代理环境中可变时长动作优化偏差和稀疏奖励两大挑战,为AI代理发展指明方向。
苹果憋一年终超同参数 Qwen 2.5?三行代码即可接入 Apple Intelligence,自曝如何做推理
今年 WWDC 大会上,苹果推出专为增强 Apple Intelligence 功能的语言基座模型,含约 3B 参数紧凑型与基于服务器的混合专家模型。经优化可在苹果芯片高效运行,改进工具使用与推理能力,评测显示设备端模型表现优。
a16z:担心被AI淘汰,产品经理需要具备这5种技能
a16z发布文章讨论AI时代产品经理核心价值。指出产品经理要调研模型,挖掘其能力与局限;软件将成消费支出流向,可推高价产品;情感价值是竞争力;下一代AI产品是围绕模型的创新品;产品经理应日常用AI。