「MXFP4量化」共找到 1656 篇相关文章
本地Opus你要不要！Qwen3.8-27B开源
阿里Qwen团队开源Qwen3.8-27B，上线2天登顶Hugging Face全球大模型趋势榜，下载破百万。其性能超Opus4.6，与顶尖模型相当，量化后普通电脑就能跑，原生多模态，编程、Agent、多模态跑分表现出色。
模型即智能体，Kimi K2 Thinking多项评估超越顶尖闭源模型，300轮工具调用不疲倦
月之暗面发布Kimi K2 Thinking，它是Kimi迄今最强开源思考模型，基于模型即智能体理念训练，可自主连续工具调用与多轮思考，多项评估超顶尖闭源模型，还实现原生INT4量化，提升生成速度。
LM Studio宣布支持在Mac上跑Qwen3-Next 80B模型
LM Studio宣布支持基于MLX框架在Mac上运行阿里Qwen3-Next 80B模型。该模型虽总参数量达800亿，但每次推理仅激活30亿。第三方评测显示其4bit量化运行效果好，不过实现GGUF格式支持尚需时间。
OpenAI发布ChatGPT世代首个开源模型gpt-oss，4060Ti都能跑得动。
8月6日晚，OpenAI发布ChatGPT世代首个开源模型GPT - oss，有120B和20B两款。模型原生支持4 - bit量化，性能损失小，低配置显卡也能运行。跑分表现不错，还介绍了使用途径，虽有不足但改变开源社区格局。
sgl-kernel MoE Align Block Size Kernel 优化过程解析
文章记录SGLang的sgl-kernel中优化 `moe_align_kernel.cu` 的过程。MoE模型的 `moe_align_block_size` kernel从最初的baseline版本经多次迭代，包括加向量化padding、用Blelloch Scan并行化前缀和、用Warp Scan减少同步开销等。
4.4w颗星！又一个CC Switch，几乎支持所有模型
Free CC（FCC）是本地 API 代理 + 协议转换层，能让客户端透明使用任意 OpenAI 兼容或专用上游模型，保留客户端能力。支持多提供商，架构分层、设计清晰，还有多种技术特性，文中给出安装、启动等步骤。
Helidon 引入 Agent 能力，Java 框架开始内建 AI 编排
Oracle 发布 Helidon 4.4.0 版本，对齐 OpenJDK 发布节奏，纳入 Java Verified Portfolio。引入新核心能力、Helidon JSON 库，还增强与 LangChain4j 集成，支持智能体编排。
多模态RAG哪家强？9 个 Embedding、4 类 MLLMs、4 大框架实景比拼
现有文档 RAG 评测存在不足，华南理工和华科推出 DOUBLE - BENCH 进行多模态 RAG 实战评测，结果显示检索是瓶颈，模型爱胡说。快手开源 Keye - VL - 1.5 - 8B，PaperAgent 有实操指南。
SIGGRAPH 2026 | 无需训练，一段单目视频解锁任意运镜与「子弹时间」
来自UIUC、宾大与Netflix Eyeline Labs的研究团队提出FreeOrbit4D，无需训练模型，用单目视频就能实现任意运镜和“子弹时间”。它通过“前景补全的4D重建”提供几何支架，在大角度视角变化下表现出色，还带来诸多应用。
Claude Code 新功能 Agent Teams：4 类活效率翻倍，4 类活纯烧 token
Claude Code v2.1.32 后新增实验性功能 Agent Teams，可将其从单个 AI 助手升级为 AI 团队，但会使 token 用量线性放大。文章总结了适合和不适合用此功能的任务类型，还给出决策清单、实战避坑建议。