推理与计算」共找到 8076 篇相关文章

新闻资讯7

奥特曼预告ChatGPT新产品!Pro会员也要额外收费,这次不计成本投入算力

OpenAI已花160亿美元租计算资源,还计划未来五年额外支出1000亿租备用服务器。2024 - 2030年将砸3500亿用于服务器租赁,2030年研发投入近收入50%。奥特曼预告未来几周有计算密集型新产品,部分对Pro用户额外收费。

量子位
算法论文7

MoE RL 实战:统一 FP8 全流程训练

SGLang RL 团队等实现 RL 全流程 FP8 训练采样,消除训推不一致性。介绍 FP8 硬件基础、格式等,分析训练难点,定位 KL Loss 异常源于量化原理,验证其在 MoE 模型 RL 场景优势,指出模型规模训推不一致的关联。

GiantPandaLLM
产品应用8

Qwen3.8-Flash:全新架构,更强更稳更划算

本文介绍了 Qwen3.8-Flash 多模态 MoE 模型,它原生支持 262,144 token 上下文。该模型在 Attention、Residual、Embedding Optimization 四个方面系统升级,降低训练推理成本,即将上线千问 AI 平台。还发布了 Qwen3.8-Flash-Next 开源权重。

千问大模型
推荐文章8

卡帕西点赞Transformer内置计算机!每秒3万Token吞吐,拿下世界最难数独

当前大模型推理顶尖但精确计算不足,Percepta团队在Transformer权重里内嵌可执行程序,通过2维注意力头设计提升推理效率,能在普通CPU上实现每秒3万+Token的流式输出,还精确求解了世界最难数独。

量子位
产品应用7

AI看病成为医患新包袱?补上「多轮追问」,通用AI才迈得过医疗关

如今患者依赖AI问诊加重医患沟通负担。百川智能推出的Baichuan - M4对通用大模型做结构性重构医疗专项增强。M4在能力结构上升级,其C端产品百小医能患者深度建联,有望构建医疗健康新生态。

量子位
算法论文8

让AI像人类一样认知真实世界!UCLA谷歌强强联手,长时记忆+3D空间理解超越基线16.5%

如何让AI在3D环境中像人类一样思考,是具身智能领域难题。UCLA谷歌团队带来3DLLM - MEM模型3DMEM - BENCH基准,让AI有构建、维护和利用长时记忆能力,实验超基线16.5%,但有依赖模拟器预设的局限。

量子位
推荐文章8

Thinking Machines又发高质量博客:力推LoRA,不输全量微调

Thinking Machines 博客力推 LoRA 并全量微调对比。研究发现小数据量任务中 LoRA 全量微调效果接近,大数据量稍吃力,强化学习中低秩 LoRA 也能接近全量微调。还揭示了 LoRA 关键要素、超参数规律等。

机器之心
新闻资讯8

AI音乐王座易主!Mureka V8硬刚全球巨头斩获双榜第一,V9即将来袭

AI音乐大模型Mureka V8在权威Artificial Analysis榜单上,斩获vocalinstrument双榜单第一,碾压Suno V4.5等主流模型。其核心技术是MusiCoT,在多维度获正向反馈。昆仑万维还太合合作,V9将探索创作意图可控表达。

新智元
开源动态8

256块NPU训成8B视频模型、超越Sora等一众闭源!抖音内容技术团队开源ContentV

近日,抖音内容技术团队开源ContentV,这是面向视频生成任务的高效训练方案。用256块NPU约4周训成8B参数模型,在多评估维度效果主流方案相近,还探索了有限算力下训练路径,现推理代码权重已开放。

机器之心
新闻资讯7

5Y News|地瓜机器人完成1.2亿美元B1轮融资

日前,地瓜机器人宣布完成1.2亿美元B1轮融资,A、B轮融资总额达2.2亿美元。本轮融资汇聚多方资本,将支撑其全栈技术研发产品迭代。它构建完善产品体系,头部客户合作成果丰硕,还和地平线深度合作。

五源资本 5Y Capital