与爱为舞」共找到 9192 篇相关文章

算法论文8

142 TFLOPS 的差距:什么在 Blackwell 上 FP4 MoE 算子工程至关重要

文章对三种主流MoE后端在Blackwell B200 GPU上做基准测试,发现SGLangvLLM有142 TFLOPS差距,小batch时SGLang快1.84×。差异源于kernel融合、面向Blackwell的CUTLASS schedule及自适应grid sizing等优化。

GiantPandaLLM
产品应用7

这样更公平:用jina-reranker-m0多模态文档打分重排

文章指出多模态搜索领域给文档综合评分难,因文本图像评分缺乏可比性。2025年4月发布的jina - reranker - m0可解决此问题,其两阶段检索流程能显著提升召回率,对多模态AI系统设计有启发。

Jina AI
新闻资讯7

特朗普正收购英特尔10%股份,约100亿美元

凌晨华尔街日报消息,特朗普政府正英特尔谈判,拟将“芯片科学法案”部分或全部资助转成公司股权获10%股份,约100亿美元,旨在助其重振代工业务,目前谈判初期,股价有波动。

AIGC开放社区
推荐文章8

AI Agent的“祛魅归真”:当超级智能体开始懂行|甲子光年

AI Agent正迎来“祛魅”时刻,市场关注焦点从“模型有多大”转向“业务有多懂”。甲子光年智库分析,其角色进阶“数字员工”,重塑人机协作模式。众安信科深耕企业级场景,构建闭环体系,其AI Agent成效显著。

甲子光年
产品应用8

飞书和豆包合并后的第一个Agent产品,豆包工作,它来了。

字节发布飞书豆包整合后的首个产品——豆包工作,它是完整办公 Agent,飞书原生打通,功能丰富。对用飞书办公的公司而言,使用便捷,还便于管理 AI 额度,是很好的 Agent 起手式。

数字生命卡兹克
开源动态8

如何在24GB显存里,塞下一个万亿参数的巨兽?KTransformers入选顶会SOSP

清华大学趋境科技联合研发的KTransformers系统,可让消费级显卡跑万亿级参数模型,其论文入选SOSP 2025。该系统解决MoE模型本地部署难题,技术创新多,还SGLang合作,提升硬件利用率。

AIGC开放社区
开源动态8

工业级 LLM 数据工程:北京大学 DCAI 团队 DataFlow 框架的架构设计实践

2026 年大模型研发从‘模型中心’向‘数据中心’演进,数据语义密度工程精度成突破关键。北京大学 DCAI 团队推出 DataFlow 框架,解决数据准备难题,其技术报告登顶 Hugging Face。该框架有多种特性,实验验证其能提升模型性能。

InfoQ
开源动态7

vLLM Ascend超越MindIE? 昇腾推理Qwen3DeepSeek R1 Distill性能实测

国内开发者在昇腾NPU上进行大模型推理面临挑战,华MindIE推理引擎使用门槛高。昇腾联合vLLM社区推出vLLM Ascend插件。本文用GPUStack平台实测其MindIE性能差异,得出两者在不同场景各有优势的结论。

AI工程化
开源动态8

“设计师的 Cursor”!拖拖拽拽就能做前端,AI 实时生成代码,代码设计双向同步!

Onlook是号称‘设计师的Cursor’的开源工具,可让用户在浏览器可视化构建前端界面,通过AI驱动双向绑定实现设计代码实时同步,还具备多项核心功能,适用于多种场景,解决设计开发痛点。

开源星探
推荐文章7

深度剖析将 Kafka 构建在 S3 上的技术挑战最佳实践

文章基于AutoMQ深入剖析将Kafka构建在S3上的挑战解法。探讨延迟、IOPS、缓存管理等问题,介绍AutoMQ应对策略,如用WAL+S3架构降低延迟、批处理数据减少请求等,还提及Kafka兼容性及跨区流量成本处理。

InfoQ