「本地硬件」共找到 804 篇相关文章
马斯克的 Grok Bot 正在吞掉电脑，买 Mac mini 的事可以先缓缓
重度使用 Codex 大半年，电脑不堪重负，Agent 任务增多让本地电脑成瓶颈。Grok Bot 将 Agent 工作搬到云端，配云电脑，解决本地硬件难题，还为 Bot 分配独立屏幕，实现人机电脑分工。
让大模型上车：理想汽车硬件协同设计算出最佳边缘模型
长三角洲AI实验室、中科院、理想汽车等找到大语言模型硬件协同设计寻优之路，在相同延迟下降低端侧模型困惑度，压缩模型架构挑选时间。研究揭示缩放定律，打造硬件感知建模框架，找到精度与延迟最优解。
本地版Jev 1G内存就能跑！四舍五入等于不要钱啊
Jev爆火一周后，开发者推出适配Apple MLX框架的Laya-MLX，是开源决策模型Laya的原生本地版，最低仅需不到700M内存即可在Mac运行，速度快准确率高，适合高频短决策任务。
离开小米后，他赌耳机才是AI硬件的最优解｜甲子光年
甲子光年对话光帆科技创始人董红光。他曾是小米第89号员工，认为AI硬件分水岭是Agent OS，其创业产品以耳机等为载体，集成Agent OS，还谈到产品设计、成本、供应链、操作系统等多方面问题。
本地运行OpenAI Whisper语音识别模型，Unity3d环境下高性能离线转写解决方案
这是为whisper.cpp提供的Unity3D绑定库，能在本地设备高性能运行OpenAI Whisper自动语音识别模型推理。支持多语言识别与翻译，有不同大小模型，可本地运行，还介绍了使用方法。
OpenAI最新硬件2026年底亮相！狂挖苹果20+老将，首款神秘设备或将颠覆iPhone
OpenAI硬件野心浮出水面，收购io后从苹果挖来二十余名工程师，预计2026年底推出首款消费级设备。它还利用苹果供应链，同时在算力上投入巨资解决瓶颈问题。
通用LLM压缩算法，居然藏视频编码里！2.5bit实现4bit性能，硬件无缝支持
LLM.265研究发现，视频编码器是高效的大模型张量编码器，现成视频编解码硬件压缩AI模型数据效率高。它灵活控制码率、可压缩多种张量，还能利用GPU硬件加速。实验显示其压缩效果显著。
我去，还能这么玩？AI新宠DocExt：纯本地文档抽取，开源免费还无依赖！你还在为OCR头疼吗？
DocExt 是 Nanonets 开源项目，为全流程无 OCR、零云依赖的本地文档结构化提取工具，适用于多种文档类型，支持字段与表格识别。它零 OCR 误差小、可本地部署，还能灵活接入模型。
Wispr Flow 平替, 这款开源中文语音助手，程序员真该试试,本地离线的中文语音输入神器来了（开源白嫖版）
蛐蛐（QuQu）是开源桌面应用，用本地语音识别模型和配置的大语言模型，将语音实时转文字并润色。它主打本地语音工作流，替代Wispr Flow，免月费且保护隐私，适合中文用户。
猛涨25k star！一键检测你的电脑能跑哪些大模型！
最近 Github 出现工具 `LLMFit`，用 Rust 编写，能自动检测硬件配置，判断大模型能否流畅运行，推荐最优量化版本和运行模式。有一键硬件检测等特性，安装使用方便，降低本地部署门槛。