「自适应推理技术」共找到 4590 篇相关文章
算力稀缺时代，如何把 GPU 用“满”
在 GPU 稀缺且利用率低的背景下，本文分析其‘用不好’的原因，探讨业界共享技术方案的局限。以腾讯云 TencentOS qGPU 为例，解析内核态虚拟化及在离线混部技术，还介绍其在多行业降本增效的实践。
社区供稿丨Jina-VLM：可在笔记本上跑的多语言视觉小模型
Jina AI发布2.4B参数量的视觉语言模型Jina - VLM，在多语言视觉问答任务达SOTA。它引入注意力池化，连接视觉与语言基座，处理问答等任务，对硬件要求低，多项测试表现优，还介绍架构、训练策略和上手方式。
第二代InfLLM开源，同尺寸快三倍！零参数，可训练稀疏注意力
新智元报道，清华、OpenBMB和哈工大提出零额外参数、训练高效的原生稀疏注意力框架InfLLM-V2，仅用5B长文本词元就能完成训练，相比稠密注意力机制有显著加速，性能接近传统稠密模型。
究竟会花落谁家？DeepSeek最新大模型瞄准了下一代国产AI芯片
近期，DeepSeek发布V3.1新模型，采用全新混合推理架构，在多任务表现上有提升。它采用UE8M0 FP8，或为国产推理芯片优化机制。国内多家厂商新一代AI芯片支持FP8，未来国产大模型或针对其专门优化。
氛围感编程，说干就干用AI手搓一个微信带货小程序
非技术岗位的市场人尝试搭建AI荐香微信小程序。从想法萌芽到开发上线，介绍了用微信小店功能、AI编程工具实现的过程，还分享大模型接入、连接小店等技术难点及UI优化、上架要点，展示了AI编程潜力。
【5500字长文】AI出海一年简单回顾：从新手到养得起20人团队
AI技术+场景落地+出海，如何从零开始，用一年时间养得起20人团队？
Hermes Agent 终于有入门指南了
Hermes Agent 是 Nous Research 推出的开源 Agent 框架，功能强大但开发者不知如何使用。4 月 8 号，Kevin Simback 整理出 Hermes 生态全景图，另一人推出《Hermes Agent: The Complete Guide》，48 小时获 568 星。
对话 PyTorch 掌门人 Matt White：AI 应用应该做到“润物细无声”
近日，PyTorch 基金会执行董事 Matt White 在北京智源大会指出，开源虽形成‘良性循环’，但围绕‘开放’定义权的战争已打响。他还分享了对 PyTorch 发展、AI 应用等多方面的看法。
250美元起售，还开源，Hugging Face 发布史上最亲民人形机器人
Hugging Face 开源两款人形机器人 HopeJR 和 Reachy Mini，前者全尺寸有 66 个驱动自由度，售价约 3000 美元；后者成本低至 250 美元，可用于测试 AI 应用。虽被指外观不佳，但推动开源机器人生态发展。
豪掷30亿美元，OpenAI史上最大收购案！
彭博爆料OpenAI将豪掷30亿美元吞并AI编程工具Windsurf，这是其史上最大规模收购。Windsurf因模型无关性设计等优势脱颖而出，此次收购或重塑AI编程市场格局。