实例级重加权」共找到 970 篇相关文章

产品应用8

华为 | MoE推理「王炸」组合:昇腾原生盘古推理,性能狂飙6-8倍!

华为团队推出昇腾平台原生Pangu Pro MoE 72B模型,经系统软硬协同等优化,推理性能提升6 - 8倍。还提出分层混合并行等策略,打造融合算子,设计推理算法,在昇腾不同平台展现卓越性能。

AINLPer
开源动态8

刚刚,新版DeepSeek-R1正式开源!直逼o3编程强到离谱,一手实测来了

临近端午假期,新版DeepSeek - R1凌晨正式开源,模型权重已上传到HuggingFace。其性能几乎与o4 - mini(Medium)相当,编程实测超越Claude 4 Sonnet。有多项更新亮点,经实测性能获“史诗”加强。

新智元
开源动态8

狂揽20.2k星!还在傻傻的写SQL吗,那你就完了!这款开源项目,让数据分析像聊天一样简单?再见吧SQL

开源项目PandasAI让数据分析像聊天一样简单,由Sinaptik AI团队打造,将ChatGPT自然语言处理能力注入Pandas。它有对话式分析、智能图表生成等亮点,适用于多场景,还给出使用步骤及与同类工具对比。

小华同学ai
开源动态8

YC 开源自家 Harness,3 天斩获 3.9k Star,QM 如何划清 Agent 的权限边界

YC开源的QM项目上线3天获3.9k GitHub Star,定位企业Agent Harness,解决AI规模化落地管理难题。它补齐企业团队刚需能力,设计贴合企业规则,解决隔离与协作、权限管理问题,顺应行业从拼模型到搭骨架的转变。

AI科技评论
新闻资讯8

融资数亿元,我们和贝塔无限刘武龙聊了聊具身系统创新

AI科技评论对话贝塔无限刘武龙,探讨具身智能。刘武龙有丰富华为履历,其团队获数亿融资。他分析技术路线分歧,提出具身大脑定义,还谈数据采集、产品切入与商业化等,认为系统工程团队有望胜出。

AI科技评论
新闻资讯8

LLM近期重大架构进化一览:从Gemma 4到DeepSeek V4

近期大模型长上下文需求增长,成本问题凸显。Google Gemma 4、Poolside Laguna XS.2、Zyphra ZAYA1 - 8B、DeepSeek V4 等模型各有架构优化,如 Gemma 4 跨层 KV 共享和 PLE,以降低长上下文推理成本。

机器之心
产品应用7

Lyft 使用 AI 和人机协同扩展了全球范围内的本地化能力

Lyft 实现 AI 驱动的本地化系统,加速应用与网页内容翻译。新系统结合大语言模型、自动评估与人工审核,将翻译周期从数天缩至分钟,兼顾质量与适配性,还分批量和实时翻译架构处理不同场景。

InfoQ
算法论文8

北大团队改造DeepSeek注意力,速度快四倍还不丢精度

北大张牧涵团队提出新稀疏注意力机制HISA,突破64K上下文索引瓶颈,相比DSA提速2 - 4倍,且不丢精度、即插即用。该机制分块粗过滤和块内精挑字符两步,实测表现亮眼,也指出后续改进方向。

量子位
7

英伟达首台DGX GB300,老黄亲自登门送给他

老黄将首台DGX Station(GB300)送给个人开发者卡帕西,还附赠“小作文”。卡帕西打算用它搭建个人AI集群做实验。DGX Station把数据中心AI算力搬到桌面,英伟达还为此贡献开源堆栈NemoClaw。

量子位
开源动态7

SGLang JIT Kernel 介绍

文章介绍SGLang JIT Kernel,此前开发CUDA Kernel流程繁琐、编译时间长,现基于TVM - FFI探索JIT开发加速迭代。文中梳理其机制、抽象及新增Kernel流程,还给出环境设置、目录结构等内容,并以实例说明开发过程。

GiantPandaLLM