「本地自部署」共找到 2009 篇相关文章
时空压缩！剑桥大学提出注意力机制MTLA：推理加速5倍，显存减至1/8
在大语言模型发展中，Transformer自注意力机制有计算复杂度问题且KV缓存成推理瓶颈。剑桥大学提出MTLA，结合时空压缩策略，提升推理效率，在多任务中表现出色，代码已开源。
tokens烧钱太快？试试这个四层模型组合
ClaudeCode等智能体兴起，开发者面临tokens不够用、主流模型降智问题。网络给出多模型策略缓解，网友将2026年主流模型分四档，还介绍了实际路由策略、部署建议，指出单模型依赖危险。
居然 11.5K star 了，这个一人公司的秘密项目有啥魔力！
做自媒体和内容运营重复工作多、效率低。开源项目`AiToEarn`用AI+自动化整合内容创作、发布等环节，支持多平台，有11.5k+ star，还介绍了安装使用方法。
一种用于管理 AI 变革步伐的演进式架构模式
Cloudflare推出基于QuePaxa共识算法的Meerkat服务，可无领导者写入并保持强一致性，提高网络可用性。它预计将是QuePaxa全球首次生产部署，但存在局限性，如大量往返通信。
0.9B跑出90%真机成功率！上海交大为VLA补上空间感
上海交大MINT团队提出中间路线Evo - Depth，约0.9B参数，不额外增硬件负担，兼顾仿真与真机性能及部署效率。系统由IDEM、SEM等组成，代码等已开源。
DeepSeek之后：中国开源人工智能生态的架构选择
自2025年1月“DeepSeek时刻”，中国开源社区有历史性进展，讨论焦点从模型转向架构与硬件选择。技术架构多元，多模态能力扩展，开源许可宽松，小模型走红，本土硬件采用加快。
一个被低估的Markdown神器！
本文是开源君分享的一款被低估的开源AI原生Markdown编辑器OpenKnowledge，它兼顾美观编辑体验、AI协作、本地存储，满足个人和团队知识管理需求，目前GitHub已收获4.1k Star。
美议员联合施压：拟对华芯片设备出口管制再升级！
本周美国众议院多位议员致信国务院与商务部，呼吁加强对华晶圆制造设备出口限制。新提案禁止向中国出售无法本地生产的设备，还限制售后维修，要求施压盟友建立多边禁运机制。
近 2w Star，隐私优先，打工人新选择！
云端AI会议工具存数据泄露风险，Meetily项目主打100%本地处理，解决隐私短板。它是开源AI会议助手，能实时转录音频、区分说话人、生成摘要，数据不离开设备，在GitHub获近2万Star。
谷歌重回铁王座！Gemini 3吊打GPT-5，奥特曼发信承认技不如人
谷歌携Gemini 3和Nano Banana Pro强势回归AI王座，连奥特曼都承认谷歌「反超」。谷歌逆袭原因多样，创始人布林回归打破「大公司病」，CEO劈柴推动「AI优先」，还有自研TPU提供算力保障。