推理加速技术」共找到 4926 篇相关文章

开源动态8

专为小说、角色扮演等而生:元象开源泛娱乐场景底座模型

元象作为AI与3D技术服务公司,此次开源XVERSE-Ent系列中英双语大模型。它采用MoE热启动技术与三阶段训练策略,解决泛娱乐场景痛点,适配多元语境,有高部署性价比,为行业提供泛娱乐AI解决方案。

AIGC开放社区
8

仅隔一天,OpenAI同步上线o3和o4 mini,它们能调用ChatGPT里的多种工具,可基于图像思考。o3是强大推理模型,o4-mini专为快速经济推理优化。即日起部分会员可体验,还开源了Codex CLI。

鱼羊
产品应用8

杀疯了!单卡4090跑通全量微调,面壁1B级多模态性能怪兽硬刚大厂

面壁智能推出MiniCPM-V 4.6,参数约1B,性能和推理效率出色。它在多模态任务综合能力、推理速度上领先竞品,靠ViT架构改造和4倍/16倍混合视觉Token压缩实现创新,有工业验证,对开发者和普通用户意义大。

AI寒武纪
推荐文章7

算力稀缺时代,如何把 GPU 用“满”

在 GPU 稀缺且利用率低的背景下,本文分析其‘用不好’的原因,探讨业界共享技术方案的局限。以腾讯云 TencentOS qGPU 为例,解析内核态虚拟化及在离线混部技术,还介绍其在多行业降本增效的实践。

InfoQ
开源动态8

社区供稿丨Jina-VLM:可在笔记本上跑的多语言视觉小模型

Jina AI发布2.4B参数量的视觉语言模型Jina - VLM,在多语言视觉问答任务达SOTA。它引入注意力池化,连接视觉与语言基座,处理问答等任务,对硬件要求低,多项测试表现优,还介绍架构、训练策略和上手方式。

Hugging Face
新闻资讯7

究竟会花落谁家?DeepSeek最新大模型瞄准了下一代国产AI芯片

近期,DeepSeek发布V3.1新模型,采用全新混合推理架构,在多任务表现上有提升。它采用UE8M0 FP8,或为国产推理芯片优化机制。国内多家厂商新一代AI芯片支持FP8,未来国产大模型或针对其专门优化。

机器之心
8

氛围感编程,说干就干用AI手搓一个微信带货小程序

技术岗位的市场人尝试搭建AI荐香微信小程序。从想法萌芽到开发上线,介绍了用微信小店功能、AI编程工具实现的过程,还分享大模型接入、连接小店等技术难点及UI优化、上架要点,展示了AI编程潜力。

腾讯技术工程
6

【5500字长文】AI出海一年简单回顾:从新手到养得起20人团队

AI技术+场景落地+出海,如何从零开始,用一年时间养得起20人团队?

哥飞
开源动态7

Hermes Agent 终于有入门指南了

Hermes Agent 是 Nous Research 推出的开源 Agent 框架,功能强大但开发者不知如何使用。4 月 8 号,Kevin Simback 整理出 Hermes 生态全景图,另一人推出《Hermes Agent: The Complete Guide》,48 小时获 568 星。

AI工程化
新闻资讯7

半导体材料巨头涨价“突袭”!涨幅高达30%!

日本半导体材料巨头Resonac宣布,对覆铜层压板与黏合胶片全系列产品提价超30%,2026年3月1日生效。调价受原材料紧张、成本上升等因素驱动,其看好市场前景,此次调价或影响下游产业。

芯师爷