「算力成本」共找到 2164 篇相关文章
在参与OpenAI、Google、Amazon的50个AI项目后，他们总结出了大多数AI产品失败的原因
Aishwarya Naresh Reganti 和 Kiriti Badam 参与超50个企业级AI产品构建。他们指出，如今AI产品构建成本降低，但多数仍失败。还分享开发陷阱与路径，如从低自治高控制起步、建立CC/CD框架等，也对AI未来发表看法。
AI 时代的洞察方法论：结构化思维与能力迁移
文章以高盛数字化架构设计为例，探讨AI时代技术分析的能力迁移。指出AI使信息采集整合成本降低，技术分析重心从找信息转向构建模型，建模仍是洞察主战场，AI可加速知识铺垫，但模型切换需人类完成。
腾讯AngelSlim升级，首个集LLM、VLM及语音多模态为一体的投机采样训练框架，推理速度飙升1.8倍
随着大模型应用成本与延迟问题凸显，腾讯混元升级 AngelSlim 训练框架，将投机采样技术拓展至全模态场景。它以 Eagle3 架构让推理速度最高飙升 1.9 倍，还具全模态训练、面向部署等亮点，有开源代码。
全球首个具身智能开放平台来了！让大模型长出“身体”，像人一样自然表达交互
魔珐科技发布全球首个具身智能3D数字人开放平台魔珐星云，能让大模型‘长出身体’，实现自然表达交互。该平台突破了‘高质量、低延迟、高并发/低成本’的不可能三角，还可驱动虚拟和真实具身。
Qwen3-Next全新架构，32K场景MTP吞吐提升10倍
随着模型大小和上下文长度增加，为应对成本和部署挑战，Qwen3 - Next有突破性架构创新，解决上下文长度和总参数缩放问题。它采用混合注意力、超稀疏MoE等，MTP机制让其长上下文推理吞吐量比前身高10倍以上。
时隔六年，OpenAI 为什么再次开源？
OpenAI发布两款开源纯文本推理模型，时隔六年再次开源。其gpt - oss - 120b性能与o4 mini相当，成本降超10倍。此次开源有战略考量，或是为构建生态、吸引企业，也反映出其对自身价值定位更清晰。
一条SQL管理向量全生命周期，让AI应用开发更简单
在大模型驱动的AI浪潮中，向量在AI应用开发中至关重要，但开发者面临技术栈分裂等隐形成本。PolarDB IMCI提出解决方案，在数据库内核集成向量索引与Embedding能力，用一条SQL管理向量全生命周期，降低开发和维护门槛。
摩尔线程之后，又一家国产 GPU 独角兽完成上市辅导
6月23日，国产GPU龙头沐曦IPO辅导完成，将提交申报材料。其为异构计算提供全栈GPU方案，产品有曦思N、曦云C、曦彩G系列。曾与书生・浦语3.0合作，2024年交付多个算力集群。此外，国产GPU厂商纷纷IPO。
纯血国产！4B模型越级打怪，杀入万亿赛道
9月1日，Hugging Face上线星火X2.5-4B和1.7B开源端侧模型，在多指标测试中表现优异，实现“越级打怪”。该模型基于全国产算力平台训练，在断网笔记本上实测效果惊艳，使用了两项技术提升能力，适配性强。
蚂蚁百灵新一代Ling-3.0开源，智效比13.2，124B释放1T能力
蚂蚁百灵新一代模型Ling-3.0开源，有flash和tiny两版本。Ling-3.0-flash参数量124B，智效比13.2，输出快成本低；Ling-3.0-tiny参数量7.9B，激活少且适用多场景，二者都极致挖掘模型效率。