「XTuner V1」共找到 2077 篇相关文章
0.3B参数，600MB内存！腾讯混元实现产业级2Bit量化，端侧模型小如手机App
腾讯混元团队推出面向消费级硬件的“极小”模型HY-1.8B-2Bit，参数量仅0.3B，内存占用600MB。它基于产业级2Bit端侧量化方案，生成速度提升，还通过多种方法提升能力，未来将探索新技术缩小与全精度模型差距。
非Transformer架构的新突破，液态神经网络的推理小模型只用900M内存
谷歌提出的Transformer架构基本垄断大模型，而初创公司Liquid AI研发的液态神经网络架构另辟蹊径。其发布并开源的LFM2.5 - 1.2B - Thinking模型，仅需900MB内存就能在端侧运行，性能优于Transformer架构模型，还降低了死循环生成比例。
回归C++: 在GGUF上构建高效的向量模型
Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型，还生成量化版本并上传。介绍使用方法、注意事项，经测试推荐IQ3_S或IQ3_M版配合定制工具。
给AI打个分，结果搞出17亿估值独角兽？？？
大模型竞技场LMArena官宣拿下1.5亿美元A轮融资，估值升至17亿美元。它前身是Chatbot Arena，由LMSYS创建，核心成员多为顶尖高校学霸。LMArena评估规则有趣，成新模型必测榜单，计划用新资金运营平台、扩团队。
只剩5年？诺奖得主Hassabis放出AGI时间表：还差一两个技术突破
诺奖得主、Google DeepMind掌门人Demis Hassabis给出AGI终极时间表，认为5年内或需1-2项重大技术突破就能跨越障碍。他指出大模型有局限，实现AGI需“世界模型”和“智能体系统”，还称AI将加速科学发现，中国AI模型距美国仅差数月。
发布智驾商用方案，千里科技的转身与雄心｜甲子光年
今年6月23日，千里科技发布面向L2+级的千里智驾1.0，公布L3、L4级产品路线图。其前身是力帆科技，转型后与吉利合作。该方案分三版本，还将推L3、L4级别方案。公司有“一横一纵”能力，站位供应商。
【博客翻译】使用PyTorch加速生成式AI第四部分：Seamless M4T，快速优化
这是使用纯原生PyTorch加速生成式AI模型系列博客的第四部分，专注加速FAIR的Seamless M4T - v2模型。通过torch.compile + CUDA Graph，在不损失精度下实现text decoder模块2倍、vocoder模块30倍加速，端到端推理2.7倍加速。
国民技术发布面向AI数据中心的3 kW数字电源参考设计方案
在AI算力增长与能源转型驱动下，电力供给变革。国民技术发布面向AI数据中心的3 kW数字电源参考设计方案NS3KW53V5P2L3，基于N32H474芯片和Hunter OS生态，有高转换效率等优势。
与Generalist顶峰相见，30天狂吸30亿，千寻智能做对了什么？
2026年4月7日，千寻智能完成新一轮10亿融资，30天内累计融资30亿，由雷军、马云旗下资本领投。其开源具身模型Spirit v1.5展现泛化能力，技术路径获认可。千寻构建多源数据引擎，还通过现实场景数据反哺模型。
大基金或将领投DeepSeek？算力拐点将至
5月6日报道国家大基金正洽谈领投DeepSeek首轮融资，估值约450亿美元。大基金此前未公开投资大模型公司，此次若落地是从“半导体硬件”向“AI应用端”延伸。2025年是中国AI芯片出货量关键年份，DeepSeek-V4发布，多家国产芯片品牌完成适配，但国产芯片仍面临性能、软件生态等挑战。