「M2.7」共找到 2440 篇相关文章
回归C++: 在GGUF上构建高效的向量模型
Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型,还生成量化版本并上传。介绍使用方法、注意事项,经测试推荐IQ3_S或IQ3_M版配合定制工具。
「具身原生」元年!专访原力灵机汪天才,解析具身智能的「PyTorch时刻」
2月10日原力灵机发布开源具身原生框架Dexbotic 2.0,宣布与RLinf合作。合伙人汪天才将其与RLinf结合定义为具身智能的「PyTorch时刻」。还推出具身大模型DM0和应用量产工作流DFOL,推动具身智能进入「具身原生」时代。
李飞飞世界模型公司一年估值暴涨5倍!正洽谈新一轮5亿美元融资
据彭博社消息,李飞飞创办的World Labs正以约50亿美元估值进行新一轮最高5亿美元融资。此前已累计融资2.3亿美元。该公司研发“大世界模型”,推出3D世界生成模型Marble。此外,Yann LeCun创办的AMI Labs也获资本关注。
一个新网站上线不久便从谷歌获得了15859次曝光和5689次点击,实际UV约7K。而良辰美的网站,通过AI辅助写作,更是达到了21.5万次曝光和2.85万次点击。谷歌的排名机制对新站公平,关键在于如何抓住机会。
英伟达挑战者,估值490亿
AI芯片初创公司Groq完成7.5亿美元融资,估值达69亿美元。它由前谷歌工程师创立,致力于打破英伟达垄断,产品能低成本维持AI性能,但在生态、大规模模型支持等方面与英伟达有差距,短期内难威胁其地位。
斯坦福提出新的RL范式,让3B模型的Agent超越Claude、GPT-4
斯坦福提出新的RL范式,让小模型Qwen2.5 - 3B经训练后性能超越Claude - 3.5 - Sonnet等大模型。论文解决了RL在代理环境中可变时长动作优化偏差和稀疏奖励两大挑战,为AI代理发展指明方向。
社区供稿丨Jina-VLM:可在笔记本上跑的多语言视觉小模型
Jina AI发布2.4B参数量的视觉语言模型Jina - VLM,在多语言视觉问答任务达SOTA。它引入注意力池化,连接视觉与语言基座,处理问答等任务,对硬件要求低,多项测试表现优,还介绍架构、训练策略和上手方式。
究竟会花落谁家?DeepSeek最新大模型瞄准了下一代国产AI芯片
近期,DeepSeek发布V3.1新模型,采用全新混合推理架构,在多任务表现上有提升。它采用UE8M0 FP8,或为国产推理芯片优化机制。国内多家厂商新一代AI芯片支持FP8,未来国产大模型或针对其专门优化。
从 Redis 到 Valkey,开源社区如何快速创新?
文章介绍了开源键值数据库 Valkey,它诞生于 2024 年 3 月,由 Linux 开源基金会托管,完全兼容 Redis OSS 7.2.4。Valkey 版本迭代快、性能提升、云厂商跟进、社区规模增长、迁移成本低。中国开发者在其中贡献突出,Valkey China 公众号也已上线。
FlashAttention 完全进化史:FA-4 发布之际的技术全景回顾
文章围绕FlashAttention展开,从Attention性能瓶颈引出问题,阐述其各版本演进。FA-1实现算法突破,避免O(N²)内存;FA-2适配架构,提升性能;FA-3深度协同,实现异步;FA-4探索更深异步和角色分工。还探讨跨芯片迁移及未来优化方向。