先进封装技术」共找到 2957 篇相关文章

开源动态8

多模型共享 GPU 内存,Berkeley 开源新工具

GPU内存利用率低是大模型部署痛点,伯克利Sky Computing Lab团队开源kvcached工具,通过虚拟化技术让多模型共享显存。它引入虚拟内存概念,按需分配,测试显示能提升效率,安装简单、兼容性好。

AI工程化
推荐文章7

“谈故障色变”到有章可循:美图 SRE 故障应急与复盘实践

在 InfoQ 举办的 QCon 全球软件开发大会上,美图高级运维经理石鹏分享美图 SRE 团队故障应急与复盘实践,探讨故障应急各环节,剖析故障本质与原因,还交流 AIOps、LLM Ops 等技术

InfoQ
算法论文8

谢赛宁团队用RAE实现从8%到84%的飞跃,宣告VAE时代结束

谢赛宁团队用RAE新架构将ImageNet图像生成FID刷到1.13,宣告VAE组件过时。RAE结合先进表征学习成果与强大生成模型框架,解决诸多问题,还为其高维潜空间定制DiTDH架构,性能优异。

AIGC开放社区
开源动态7

最受欢迎的开源大模型推理框架 vLLM、SGLang 是如何炼成的?

文章介绍了开源推理引擎 vLLM 和 SGLang,包括起源、创新、社区发展、版本迭代等。vLLM 借鉴分页缓存管理技术,SGLang 基于 RadixAttention 优化。二者竞争激烈,性能趋同,还获投资与基金会关注,受科技公司青睐。

AI科技大本营
新闻资讯7

做路由器Wi-Fi芯片为什么那么难?

TP - Link芯片部门全员解散引发关注。做路由器Wi - Fi芯片技术难,要同时研发CPU主控和Wi - Fi芯片,且比端侧Wi - Fi芯片要求高。市场方面,不同地区市场各有挑战,创业需谨慎。

芯师爷
产品应用8

这一次,天玑9500的端侧AI能力,友商赶不上了

9月22日,联发科推出天玑9500芯片,展示新形态端侧AI应用,推动端侧AI实用化。其性能强、功耗低,还支持端侧模型训练。多家手机厂商将发布搭载该芯片的手机,展现新AI趋势。

机器之心
开源动态8

从中国“霸榜”到全球开源,AI的新思考!GOSIM HANGZHOU 2025圆满收官

9月12 - 14日,GOSIM HANGZHOU 2025在杭州举办,吸引全球众多开源与AI相关人士。大会有2场Keynote、2大高端论坛、5大分论坛,还有Rust相关活动、Workshop、黑客松等,呈现开源与AI技术融合成果。

AI科技大本营
新闻资讯8

资本视角下的智造落地战:五位投资人划定关键赛道与投资红线|甲子引力X

在「2025甲子引力X中国科技产业投资大会」上,五位投资人共议智能制造。他们认为当前制造业面临降本增效等挑战,投资时“团队”是关键,中国智能制造在多领域有成长空间,创业者要内修能力、外抓需求。

甲子光年
开源动态8

RAG2.0进入“即插即用”时代!清华YAML+MCP让复杂RAG秒变“乐高”

检索增强生成系统(RAG)复杂度提升,开发者面临高昂工程成本。基于MCP架构的UltraRAG 2.0框架,让科研人员用YAML文件声明复杂逻辑,降低技术门槛与学习成本,还提升了复杂多跳问题性能。

CourseAI
开源动态8

首个基于MCP 的 RAG 框架:UltraRAG 2.0用几十行代码实现高性能RAG, 拒绝冗长工程实现

检索增强生成系统(RAG)复杂度提升,工程实现成本高。清华大学等联合推出首个基于MCP架构的UltraRAG 2.0,组件化封装、调用扩展灵活,低代码实现高性能,可用于科研和行业应用。

AI前线