轻量化」共找到 341 篇相关文章

开源动态8

最低 306KB,这款低延迟语音检测神器太绝了!

语音交互中,VAD至关重要。新开源的TEN VAD能精准识别语音起止,是替代WebRTC VAD和Silero VAD的优选。它低延迟、高准确率、极致量,已被Kaldi集成,还能跨平台部署,使用方便。

开源先锋
新闻资讯7

叫板华尔街之神!诺奖得主在谷歌眼皮底下组队炒股,CEO亲自叫停

AlphaGo之父Hassabis曾在谷歌眼皮底下拉20个顶尖研究员训练高频交易AI,想挑战华尔街量化之神,与贝莱德探讨合作。后因谷歌CEO叫停,项目停摆。不过如今AI+金融正加速发展。

新智元
开源动态8

什么情况,一夜之间冲上热搜,狂揽29.6k星,再见吧SQLite!这个嵌入式分析引擎实在太香了

DuckDB是嵌入式OLAP数据库,被赞“分析型SQLite”。它采用列式存储和向量化查询引擎,性能佳,功能多,适合探索性数据分析等场景,能替代Pandas等,成本低。

小华同学ai
新闻资讯7

旧手机除了放转转,还能放数据中心提供算力

Google和UC San Diego合作,将退役Pixel手机拆解成主板组成计算集群,跑教学科研任务。研究表明,旧手机算力仍有价值,可用于量任务,还能降低隐含碳,或催生新产业链。

DeepTech深科技
算法论文8

0.01%参数定生死!苹果揭秘LLM「超级权重」,删掉就会胡说八道

苹果研究人员发现大模型中极少量的「超级权重」,即便占比仅0.01%,对模型能力影响巨大。这一发现为大模型「科学瘦身」提供思路,还提出定位方法,助力模型量化和未来研究。

新智元
开源动态8

本周推荐的6个超级6的Github开源项目!

本文推荐6个Github开源项目,有能接入多平台的开源微信机器人CoW,基于VS Code魔改的AI代码编辑器Void,免费的ERP系统ERPNext,开源物联网平台ThingsBoard,共享虚拟浏览器Neko,微软量命令行编辑器Edit。

开源先锋
开源动态7

狂揽15.9K star!!Win系统居然还有开源替代版,牛逼啊~

开源君分享开源项目`ReactOS`,它类似Windows,目标是与NT系列无缝兼容,可直接运行Windows软件和驱动。该项目始于1996年,在Github获15.9K star,有量、兼容等特点,安装简单。

开源先锋
开源动态8

Google这个1.5w star 项目牛皮,99%准确率!

Google安全团队开源AI文件类型检测工具Magika,抛弃固定规则匹配,用深度学习精准识别文件真实类型。它内置量模型,单CPU毫秒级推理,支持200+格式,准确率约99%,已大规模落地。

开源先锋
开源动态8

深度拆解 Muse Glimmer,24GB 显存跑 30B Agent,Meta 到底做了什么?

昨天,Meta发布约30B参数的多模态Agent模型Muse Glimmer,支持128K级上下文。它采用Apache 2.0许可证开放,有量化版本等。其技术设计围绕显存、上下文管理等问题展开,在多方面做了取舍。

AI科技评论
产品应用7

jiSGLang集成ktransformers:2TB内存运行Kimi K2 Thinking模型

对于内存多但GPU资源有限的用户,SGLang集成ktransformers的CPU内核,支持直接运行Kimi K2 Thinking模型。它无需等量化,还能微调,虽性能与GPU方案有差距,但给用户新选择。

AI工程化