端侧运行」共找到 673 篇相关文章

产品应用8

32个随机数字,1分钟推演地球未来15天丨谷歌DeepMind

谷歌DeepMind发布WeatherNext 2,运行速度比上一代快8倍,分辨率达小时级。其关键是新提出的FGN功能生成网络,通过输入32个随机数字生成多样天气情景,速度快且准确率高,虽有小瑕疵但实用。

量子位
新闻资讯7

此芯科技亮相世界人工智能大会,以 AI 之力勾勒美好未来

2025年7月26日,世界人工智能大会在上海启幕,此芯科技携多款搭载此芯P1的展品亮相,展示端侧AI前沿成果。此芯P1芯片性能强劲,已产品化。展会展示三大应用场景,呈现其多场景应用能力。

芯师爷
开源动态7

The Batch: 948 | GLM 5.1:面向长时任务的能力提升

Z.ai将旗舰开源权重大语言模型升级为GLM - 5.1,可在单个任务自主运行八小时。它专为编程和智能体任务设计,有推理等特性,在多榜单表现佳,但推理和数学能力落后闭源模型,价格有提升。

DeeplearningAI
开源动态8

腾讯混元开源 4 个小尺寸模型,主打 Agent 和长文

8月4日,腾讯混元开源四款小尺寸模型,参数为0.5B、1.8B、4B、7B,消费级显卡可运行,适用于低功耗场景。模型具备推理快、性价比高特点,亮点是Agent和长文能力,已在腾讯多业务应用。

InfoQ
新闻资讯7

量子计算摆脱GPU!IBM一句话AMD市值暴涨2000亿元:用FPGA芯片即可

IBM宣布在量子计算商业化取得重大进展,能在AMD芯片实时运行量子纠错算法,速度比需求快10倍,无需GPU,用FPGA芯片与量子计算机配合即可,这一突破让AMD和IBM市值均大幅上涨。

量子位
开源动态8

刚刚,面壁小钢炮开源进阶版「Her」,9B模型居然有了「活人感」

2月4日,面壁开源全双工全模态大模型MiniCPM - o 4.5,在多方面达SOTA水平。它能边看边听边说,实现自主交互。实测中表现如真人,其架构和机制有创新,还适合端侧部署,或开启人机交互新时代。

机器之心
新闻资讯7

存储的超级周期,缺货潮将贯穿2026年?

近期存储市场火热,价格飞涨,下游厂商面临成本压力。缺货潮或贯穿2026年,因AI需求爆发,三大厂商减产DDR4等产能。其他厂商难补缺口,华邦虽有扩产计划但周期长。端侧AI发展对存储有新要求,华邦布局相关产品。

芯师爷
产品应用7

人手一个数据库,Kimi背后这套AI基建到底有多能扛?

Kimi K2.6的Agent模式可帮用户搭建全套齐备的网站,但工程算力挑战大。传统数据库难以承接其需求,Kimi后端选TiDB Cloud,做了三个关键决策。这不是孤立事件,反映行业趋势,TiDB还为Agent补齐运行时基础设施。

量子位
技术分享7

【博客转载】NVIDIA Docker CUDA Compatibility /Nsight Compute In Docker

本文围绕NVIDIA Docker CUDA兼容性及Nsight Compute展开。指出使用NVIDIA NGC CUDA Docker容器时,要保证宿主机CUDA驱动与容器内运行时库版本一致,否则会有问题。还介绍了在Docker中安装和使用Nsight Compute的方法及示例。

GiantPandaLLM
开源动态8

奥特曼深夜官宣:OpenAI重回开源!两大推理模型追平o4-mini,号称世界最强

OpenAI深夜推出gpt-oss 20B和120B两款开源模型,性能比肩o3-mini和o4-mini,能在消费级显卡甚至手机运行。有宽松许可证等亮点,还准备了体验网站。这是自GPT - 2后首次开源,降低了部分群体准入门槛。

新智元