低比特量化」共找到 1172 篇相关文章

技术文章7

让NCCL性能起飞的NCCL symmetric memory是啥黑科技?— part1

本文是NCCL 2.27新特性系列首篇,介绍symmetric memory。它类似NVSHMEM,现仅支持单节点通信,未来将支持跨节点。其延迟内核能提升小数据通信性能,还介绍使用示例、CUDA内存管理及Symmetric Memory实现等内容。

GiantPandaLLM
7

蚂蚁投了一家具身智能公司,做手的

具身智能市场火热,灵心巧手完成数亿元天使轮融资,由蚂蚁集团领投。该公司成立于2019年,此前已有超亿元种子轮融资。其自研灵巧手技术强、成本、销量高,应用广泛,未来将聚焦软硬件协同。

量子位
推荐文章7

AI 基础知识从-1到0.1:带你走进机器学习的世界

文章沿着AI发展脉络,从Seq2Seq到GPT模型,深入介绍关键技术原理。以简明方式梳理AI基础概念,涵盖人工智能、机器学习等定义,还介绍了各类学习方法、特征工程及向量化等内容,最后提及模型应用流程和Quick BI助力企业分析。

阿里云开发者
产品应用7

AI产品先发优势在于用户迁移成本高,持续为用户提供价值是保持竞争优势的关键 | 对话AI智能电子衣橱工具搭搭

文章围绕AI智能电子衣橱工具搭搭展开,介绍其功能、开发逻辑与发展规划。搭搭通过AI算法筛选美图定义美,提供穿搭灵感,注重用户需求。团队投入研发,获客成本,未来聚焦工具,解决穿搭问题,与用户共建产品。

量子位
开源动态8

欢迎 GPT OSS —— 来自 OpenAI 的全新开放模型家族!

OpenAI推出GPT OSS开放模型家族,含117B参数的gpt‑oss‑120b和21B参数的gpt‑oss‑20b。采用Apache 2.0许可证,资源占用、推理快,适多场景,已接入Hugging Face服务,还介绍了推理、部署等内容。

Hugging Face
开源动态8

ScienceDiscovery实现树搜索驱动RSI,加速科学发现,小时级写出通用积分器,成本找出物理科学规律

openJiuwen社区的ScienceDiscovery把科研试错交给程序,通过树搜索实现科研场景产物RSI。它能在多个案例中高效产出成果,成本、耗时短,且底座灵活,可换算法和任务,但推广需解决验证速度和可信度问题。

量子位
新闻资讯7

Claude Sonnet 5 上线一日差评刷屏:打不过千问和 Minimax,性价比全面翻车

Claude Sonnet 5发布一天差评多。虽官方定位高,有能力亮点,但在中文测评中性价比,测试成本高,且Max推理模式易过度思考。还因过度保守失去实用价值,其表现取决于使用场景和预算。

AI科技评论
产品应用7

Unsloth发布Qwen3-VL本地运行和微调指南,修复隐藏bug

Unsloth团队修复Qwen3-VL系列模型聊天模板语法问题,重新上传GGUF量化文件,使模型可本地稳定运行。介绍了不同规格模型硬件需求、表现,给出部署步骤、参数差异,还展示多模态能力测试,提供多种格式模型及微调工具。

AI工程化
新闻资讯7

OpenAI「GPT门」事件引爆!Plus、Pro账户统统降配,偷换模型全网实锤

OpenAI被曝在用户不知情下,将GPT-4、GPT-5等模型路由至算力敏感模型,引发用户对选择权和付费权益质疑。该现象已在社交媒体广泛验证,OpenAI回应称是在测试新安全路由系统。

新智元
新闻资讯7

台积电“退场”,氮化镓市场影响几何?

近日,纳微半导体宣布将产品代工从台积电转至力积电,台积电决定2年内退出氮化镓业务。因其代工业务利润,难达预期,且氮化镓市场竞争激烈。但氮化镓厂商积极应对,市场前景仍被看好。

芯师爷