「推理性能优化」共找到 4208 篇相关文章
当顶级视频模型半衰期只有 30 天，fal.ai 为什么收入反而一年增长 60 倍？
在生成式媒体技术发展背景下，fal.ai 作为生成式媒体 infra 公司迅速崛起。它通过统一 API 与云端平台提供多模态模型调用能力，2025 年收入增长 60 倍并完成融资。文章解析其如何构建护城河及对行业发展的判断。
GAG：超越RAG，无需检索的私有知识注入新范式
在高价值私有场景，主流大模型注入知识的路线各有硬伤。中科院和360AI联合团队提出GAG方案，无需检索、固定底座、单Token、即插即用，实验显示效果佳，也指出跨域组合等局限。
一夜200万阅读，OpenAI神同步！这项测评框架让全球顶尖LLM全翻车
中国团队领衔全球24所高校机构发布评测LLMs for Science能力的论文，一夜阅读近200万，同一时间OpenAI也发文指出现有评测标准在AI for Science领域失灵。论文推出评测体系SDE，发现主流大模型在科学发现上短板明显。
LightX2V fp4 quant kernel代码笔记
这是关于 LightX2V 里 `lightx2v_kernel` 做 FP4 量化 GEMM 的读码笔记，解释接口和约束、kernel 关键路径等问题，还介绍 NVFP4 和 MX-Formats 量化原理、代码实现，以及 LightX2V 项目中的实际使用。
英伟达推出下一代计算平台Rubin：可用45°C的热水进行冷却，训练速度提高3.5倍
英伟达黄仁勋在CES演讲，宣布进入自动驾驶领域、推出Alpamo模型与下一代计算平台Rubin。他指出计算行业正经历平台性转变，还介绍AI进展、应用架构，Rubin平台性能强且能效高。
分割一切、3D重建一切还不够，Meta开源SAM Audio分割一切声音
Meta 深夜放出音频分割模型 SAM Audio，可通过多模态提示分离任意声音。其核心 PE - AV 推动性能领先，还发布评测模型、基准等，整合进新平台，虽有局限但为音频 AI 带来新可能。
给Agent装上“海马体”！上海AILab开源MemVerse，定义多模态记忆新范式
上海人工智能实验室开源MemVerse，这是首个面向智能体的通用多模态记忆框架。它将多模态信息与文本对齐到统一语义空间，首创‘双通路’架构与‘记忆蒸馏’技术，让智能体有终身记忆能力，在多模态任务中表现出色。
AI鸿沟正在拉大！OpenAI报告揭示：不用AI的企业将被淘汰
12月8日OpenAI发布2025年报告，基于百万级企业客户数据，揭示企业AI使用量爆发式增长，重塑全球商业流与组织架构。不同行业、地域加速渗透，同时企业和员工间AI鸿沟也在拉大。
看完最新国产AI写的公众号文章，我慌了！
AI 快砸作者饭碗，智谱 GLM - 4.6V 能根据 NeurIPS 2025 最佳论文生成图文并茂的公众号文章。它还能助力学生看论文、分析财报等，可复刻网站、处理视频，在多模态评测中达同级别 SOTA。
沉默的进化：LatentMAS 如何通过“潜意识通信”重塑多智能体协作？
这是对多智能体协作领域突破性研究的深度解读。论文提出LatentMAS框架，让智能体直接交换“思维向量”，实现“机器心灵感应”，在性能、速度和Token消耗上全方位碾压传统文本交互模式。