「CPU优先推理」共找到 2239 篇相关文章
供需失衡的窗口期里，商汤大装置把国产算力做成了正毛利生意
WAIC期间，商汤大装置举办AI基础设施论坛，展示国产算力成绩单，将国产芯片业务毛利率做到正数。其通过异构混合推理等操作方法论，提升芯片利用率，还在多领域合作，虽红利或收窄，但方法论有长期价值。
a16z：2026 年的 AI 应用生态，关键问题是这几个
a16z投资人Anish Acharya探讨2026年AI应用生态关键问题。他指出应用和模型分化将更明显，未来AI应用是组合体。还提到工具本质会变，企业部门要软件优先，应用层创业公司有多种优势。
从分钟级等待到20倍超速：LightX2V重写AI视频生成速度上限
今年，开源项目LightX2V在ComfyUI社区走红，单月下载超170万次。它是面向低成本、强实时视频生成的推理技术栈，能在消费级显卡上高效生成视频，还支持多种模型和硬件，覆盖不同用户需求。
Sea AI Lab 揭秘：你费尽心力调的 LLM 一直在崩溃？罪魁祸首可能只是一个参数：BF16
Sea AI Lab 和新加坡国立大学研究指出，强化学习微调中训练不稳定和性能瓶颈，根源是数值精度 BF16。其低精度造成“训练 - 推理不匹配”，使训练易失败。将精度切换到 FP16 可解决问题，提升模型表现。
内幕曝光：OpenAI模型坦承不会第六题，3人俩月拿下IMO金牌！
OpenAI三人团队俩月让AI达IMO金牌水平。他们用多智能体系统技术，使模型能短时间解复杂问题。新模型有自省能力，减少“幻觉”问题。此次突破是通用推理技术进步，未来将整合进更多模型。
最新12种GraphRAG技术全面评测
6月两篇论文对12种GraphRAG技术评测。GraphRAG通过构建图结构组织知识，在复杂推理等任务中优于传统RAG。不同GraphRAG技术在图构建、知识检索上表现各异，如RAPTOR图构建慢但令牌消耗少。
开箱即用、本地安全、多 Agent 协同解决方案！
过去一年，Agent热度高，但企业应用面临算力、安全和部署门槛。5月22日浪潮信息推出元脑智能体工作站Z3，整合大模型本地推理等功能，解决本地多Agent运行问题，降低使用门槛，保障安全。
2026论文解读，ASAHI：自适应切片助力小目标检测，速度提升25%、精度创新高
高分辨率航空图像小目标检测难，传统检测器表现差。2026年4月都灵理工大学团队提出ASAHI，用自适应切片框架，在VisDrone2019上mAP50达56.8%，推理速度比SAHI提升20 - 25%，还介绍了实战代码等。
【梁文锋署名】DeepSeek再发新论文：75%思考+25%记忆，这是他们算出来的最优解
DeepSeek新论文《Conditional Memory via Scalable Lookup》提出Engram模块，指出大模型用计算模拟查字典是浪费算力，Engram能给模型装“记忆”，还发现参数分配呈U型缩放定律，推理和长上下文能力提升显著。
喜当爹后，奥特曼自曝神经化学骤变！养娃能为人类做出更优AI决策
OpenAI CEO奥特曼喜当爹后称优先事项改变，神经化学有骤变。其决策能力曾受争议，现恰逢OpenAI推进“星际之门”计划，他还将AI发展比作看孩子成长，也提及行业或有泡沫。