「端侧AI芯片」共找到 10003 篇相关文章

开源动态8

苹果在WWDC提到的本地模型,这家公司把它提速了220倍

苹果在WWDC开放本地语言模型API,让iPhone等有了“AI大脑”,但开发者面临模型运行慢问题。国产团队面壁智能发布MiniCPM 4.0,端侧处理长文本提速惊人,从多层面创新实现,还补上推理框架缺口。

花叔
开源动态8

技术大神用纯Rust从零构建了LLM,在GitHub上大火

Python是AI界宠儿,Rust也因“内存安全、零成本抽象、无畏并发”受青睐。项目RustGPT用纯Rust从零构建LLM,在GitHub上火了。Rust弥补了C/C++和Python的不足,Rust社区LLM项目增多,巨头也在布局。

AIGC开放社区
新闻资讯7

49.8亿元,寒武纪定增申请获受理

6月4日晚,寒武纪49.8亿元定增申请获上交所受理,这是其上市五年内第二次定增且金额最大。公司业绩增长,董事长陈天石介绍发展规划,定增或与AI浪潮有关,资金用于芯片和软件平台等项目。

芯师爷
新闻资讯7

独家丨数千万天使轮融资,中科院背景团队「熵旋芯智」押注存内概率计算

AI 科技评论独家消息,熵旋芯智获数千万元天使轮融资,由英诺天使基金领投。该公司是国内唯一基于 MRAM 构建存内概率计算平台的企业,采用全栈软硬协同策略,有望大幅提升能效比,计划 2027 年初交付芯片。

AI科技评论
开源动态7

iPhone本地跑Gemma 4火了,0 token时代还有多远?

谷歌开源新模型Gemma 4,部分小型号可在手机端本地运行,速度惊人,还有128k上下文窗口。但在处理复杂任务时表现欠佳。未来端侧模型有望蚕食云端高频简单任务,将冲击现有AI商业模式。

机器之心
开源动态7

又一安全圈爆火的开源项目,已经1.66万Star!

现在大家爱用代码AI客户端干活,但碰到安全和逆向任务时,AI易懵圈,因工具散落、经验没沉淀。开源项目`reverse-skill`可给AI装“安全研究导航仪”,支持多种AI编码客户端,有诸多功能特性。

开源先锋
新闻资讯8

当亚马逊云科技拿到“麦克”,一年的云计算叙事都被改写了

2025亚马逊云科技re:Invent大会上,CEO Matt Garman围绕Agentic AI落地发布系列新品。其认为落地需四大支柱,亚马逊云科技带来如芯片、模型等成果,还强调私有数据及开发者工具重要性,多个企业已实践应用。

InfoQ
新闻资讯7

内存股集体大跌,原因竟是谷歌这篇一年前的论文

美国内存股集体暴跌,诱因是谷歌新博客介绍一年前公布的技术 TurboQuant。它是压缩算法,可大幅减少 LLM KV 缓存内存占用、提升速度且精度零损失,有望打乱市场对内存芯片增长预期。

机器之心
新闻资讯7

谷歌TPU能撼动英伟达吗?前TPU工程师首次揭秘

在AI算力争霸时代,英伟达GPU市值狂飙,但蛋糕正被分食。前谷歌TPU工程师Henry揭秘TPU,从架构、产能、软件等维度分析其优缺点,指出在特定条件下TPU可挑战GPU,未来芯片市场将百花齐放。

芯师爷
开源动态8

面向高效异构训推的统一通信库DeepLink DLSlime开源

上海人工智能实验室开源异构芯片通信库 DLSlime,作为 DeepLink 核心组件,它连接多应用和传输链路。具备异构互联、多链路支持等亮点,性能优于主流方案,已在实验室多个项目验证,还助力国产 AI 工具链发展。

OpenMMLab