「本地模式」共找到 1206 篇相关文章
Meta重返开源!30B本地Agent塞进24GB显存,LeCun火速力挺
Meta重返开源,推出开源模型Muse Glimmer,参数30B,经量化后一块24GB消费级显卡就能跑通,拥有完整Agent能力。Meta还预告Muse Spark 1.2开放权重版本将发布,扎克伯格称会恢复发布部分开放模型。
推出 AnyLanguageModel:在 Apple 平台统一本地与远程大语言模型的 API
大语言模型是构建现代软件的重要工具,但 Apple 平台开发者集成模型困难。Hugging Face 发布 AnyLanguageModel,是 Swift 包,可替代 Apple Foundation Models 框架,支持多模型服务商,降低使用 LLM 难度。
不上云、不租卡,如何优雅地在本地微调Qwen-VL-30B?
文章指出企业训练多模态助手,30B 参数的开源多模态模型如 Qwen-VL-30B 是不错选择,但多模态场景下显存需求大。联想 ThinkStation PGX 解决了显存难题,还介绍其性能、优势、适用场景及服务等。
不想买几百刀的 ChatGPT Pulse?这款开源替代 + 本地部署可以白嫖试试
MineContext是开源跨平台桌面应用,可把电脑操作变成“上下文记忆库”。它能自动收集信息、生成总结和待办等。有自动截屏、生成总结等功能,使用体验好,适合常忘工作内容的信息工作者。
零代码、100%本地!三步生成企业级MCP,Postman这个新功能绝了~
作者发现Postman新增MCP Generator功能,拖拖点点就能构建MCP Server。以公共的HackerNews为例,介绍了筛选API、生成代码、配置Client三步生成企业级MCP的过程,还指出此功能适合快速接入标准化REST API。
Anthropic 发布 AI-Native 软件开发流程:时代变了,该换套模式了
Anthropic 8 月 21 日发布《The AI-Native SDLC Playbook》,指出传统软件开发生命周期(SDLC)流程重,已不适应 AI 时代。介绍了 AI 原生 SDLC,把旧管控目标和新执行方式结合,还分六阶段阐述具体实践。
智谱开启狂飙模式!7倍提速,全球最快,旗舰模型即问即答
5月22日,智谱上线GLM - 5.1高速版API,输出速度达400 tokens/s,刷新全球大模型API速度纪录,比原版提速约7倍。该速度由GLM团队和TileRT团队联合打造,核心优化分三层推进,且是稳定可用的生产级能力。
天玑9500s正式登场!扩图消除本地跑,《原神》极高画质满帧运行
联发科技发布次旗舰新品天玑9500s,搭载旗舰机NPU,可流畅运行复杂端侧生成式AI模型,还采用3nm制程等,让《原神》极高画质满帧。此外,还推出天玑8500,Redmi Turbo 5 Max将首发天玑9500s。
Ilya闹翻,奥特曼400万年薪急招「末日主管」!上岗即「地狱模式」
近日,奥特曼为OpenAI招募「准备工作负责人」,年薪55.5万美元加股权,约400万人民币起步。该岗位像「救火队长」,要管控AI风险,因当前AI风险更严峻,且OpenAI安全团队人员流失。
别难为 ChatGPT 了!面对海量资料,NotebookLM + Gemini 的“外挂模式”才是降维打击
Google打通NotebookLM和Gemini后,二者协作效果出色。NotebookLM可拆解复杂信息,Gemini以其为参考数据源答案更精准。二者还能基于笔记本做网站、视频、图片等,各有优势、双向协作。