「混合推理方案」共找到 2943 篇相关文章
LightX2V fp4 quant kernel代码笔记
这是关于 LightX2V 里 `lightx2v_kernel` 做 FP4 量化 GEMM 的读码笔记，解释接口和约束、kernel 关键路径等问题，还介绍 NVFP4 和 MX-Formats 量化原理、代码实现，以及 LightX2V 项目中的实际使用。
大模型最难的AI Infra，用Vibe Coding搞定
Andrej Karpathy 力荐的 Vibe Coding 在 AI Infra 开发中常「水土不服」，存在上下文丢失、决策偏离、质量不稳定等问题。文章提出文本驱动的 Vibe Coding 方法，并以 Agentic RL 中的资源调度系统为例验证其有效性，还介绍了相关团队和工具。
用AI写PPT，没想到效果这么好啊
文章聚焦用 CodeBuddy 写 PPT，先指出写 PPT 的痛点，介绍 CodeBuddy Skills 解决方案，接着阐述安装、实战场景、使用技巧，深度剖析 PPT Skill 原理、架构等，最后说明优势与局限，助力摆脱 PPT 难题。
Pulsar特性在AI场景中的使用
随着AI发展，架构从单体到分布式演进，消息中间件成关键。Pulsar以存算分离等特性价值凸显，在多模态训练、模型训练、智能体等AI场景有独特优势，如处理超大消息、实现断点续训等。
给Agent装上“海马体”！上海AILab开源MemVerse，定义多模态记忆新范式
上海人工智能实验室开源MemVerse，这是首个面向智能体的通用多模态记忆框架。它将多模态信息与文本对齐到统一语义空间，首创‘双通路’架构与‘记忆蒸馏’技术，让智能体有终身记忆能力，在多模态任务中表现出色。
GPT-5.2刚发布就要被网友玩坏了~
11月19日Gemini-3-pro发布，一周抢1200万用户，OpenAI市值受威胁，GPT-5.2提前上线，专注推理、速度和削减幻觉。文中介绍其技术要点，也展示网友实测情况，如被Gemini-3.0碾压等。
AI鸿沟正在拉大！OpenAI报告揭示：不用AI的企业将被淘汰
12月8日OpenAI发布2025年报告，基于百万级企业客户数据，揭示企业AI使用量爆发式增长，重塑全球商业流与组织架构。不同行业、地域加速渗透，同时企业和员工间AI鸿沟也在拉大。
看完最新国产AI写的公众号文章，我慌了！
AI 快砸作者饭碗，智谱 GLM - 4.6V 能根据 NeurIPS 2025 最佳论文生成图文并茂的公众号文章。它还能助力学生看论文、分析财报等，可复刻网站、处理视频，在多模态评测中达同级别 SOTA。
视觉思维链全新架构，加州大学让多模态大模型有了灵性，整体性能提升5.3%
加州大学伯克利分校等团队提出视觉思维链（CoVT）架构，让视觉语言模型推理时生成连续视觉信号。它内化轻量级专家能力，采用对齐策略和四阶段训练，实验显示性能提升，还具可解释性。
Thinking with Video：一种全新的思考范式
在人工智能领域，‘用文本思考’和‘用图像思考’存在局限。复旦大学等团队提出‘用视频思考’范式，通过视频生成模型统一文本与视觉推理，构建VideoThinkBench基准测试Sora - 2，全面解读这一开创性工作。