「动态FP8」共找到 966 篇相关文章

产品应用7

iPhone 17 Pro居然能跑8B大模型!

iPhone 17 Pro竟能跑8B大模型,如Qwen3 - 8B,推理较流畅。作者换机一是因eSIM,二为拍视频。其认为AI普及需端侧落地,此机芯片性能是好信号,盼出优质iOS客户端。

newtype AI
新闻资讯7

OpenAI 将发布 Agent Builder,n8n 和 dify 危?

OpenAI DevDay 临近,提前爆料将发布 Agent Builder。其功能丰富,是完整企业级智能体编排平台。这或冲击 n8n、dify 等工具,但它们也有自身优势,DevDay 或成智能体生态分水岭。

AGI Hunt
推荐文章8

YOLOv8 模型训练入门指南:手把手搞定目标检测AI

本文是从零训练 YOLOv8 模型的完整实录,介绍了 YOLOv8 特点,以“识别猫”为例,详述训练步骤,指出训练难点,还推荐学习资源与工具,鼓励前端程序员尝试做 AI 模型训练。

AI Reading Hub
开源动态8

英伟达巧用8B模型秒掉GPT-5,开源了

英伟达携手港大开源Orchestrator-8B小模型,在HLE测试中分数超GPT - 5,成本低且速度快。它靠ToolOrchestra训练法,协调工具解题。此赛道已有多项研究,小模型实用优势明显。

量子位
开源动态7

DeepSeek开源MoE新利器LPLB:基于线性规划,专攻训练动态负载不平衡

DeepSeek在GitHub开源LPLB,这是基于线性规划的并行负载均衡器,用于优化MoE模型专家并行工作负载分配。它通过动态重排序、副本构建等机制实现动态负载均衡,支持多种拓扑结构,但也存在成本估算等局限性。

AI寒武纪
新闻资讯7

宣战马斯克!OpenAI进军脑机接口,Altman圆8年前梦想

英国金融时报消息,OpenAI及其首席执行官Sam Altman将支持新脑机接口公司Merge Labs,与马斯克的Neuralink竞争。Merge Labs正融资,估值8.5亿美元,新资金主要由OpenAI风投提供。8年前Altman就提及人类与AI融合,如今他选择支持Merge Labs实现脑机接口梦想。

AIGC开放社区
开源动态8

16K星 Zep凭一张“动态记忆图”吊打一众Graph RAG

现有的RAG框架多依赖静态文档检索,无法满足企业对动态知识整合的需求。本次分享的Zep提供新型智能体记忆层服务,通过核心组件Graphiti动态整合数据,在LongMemEval基准测试中表现出色。

CourseAI
新闻资讯7

一个跑智能体,一个专门找漏洞:Google发布Gemini 3.8双版本

9月2日,Google发布Gemini 3.8 Flash和Gemini 3.8 Flash Cyber。前者用于编程等,已稳定上线;后者专用于发现修复漏洞,仅向特定方开放。二者共享基础能力,采用不同安全限制和部署环境。

AIGC开放社区
推荐文章8

让外部知识“长入”模型:动态化与参数化 RAG 技术探索

检索增强生成(RAG)成大语言模型利用外部知识主流范式,但传统方法将其当黑箱,忽略动态需求和机制鸿沟。艾清遥博士介绍动态化和参数化检索增强技术,可提升准确性与适应性,减少计算开销。

AI前线
算法论文8

破解大模型「无效并行推理」:Parallel-Probe问世,并行推理效率提升35.8%

来自多所高校的研究团队提出 Parallel-Probe,通过 2D Probing 刻画并行推理动态,发现问题后提出控制算法,能降推理延迟 35.8%、总 token 成本 25.8%,还推出 SCOUT 测试床,代码和平台已开源。

机器之心