「本地部署」共找到 916 篇相关文章
手机跑推理模型：Liquid AI发布仅需900MB内存的LFM2.5-1.2B-Thinking
Liquid AI发布LFM2.5 - 1.2B - Thinking推理模型，仅需900MB内存就能在手机运行。它专为简洁推理训练，性能提升明显，多数性能基准超Qwen3 - 1.7B，在多平台表现佳，还支持主流推理框架。
“再也不雇人类了！”高薪员工闪辞，创始人直接用Agent填满工位，半年前才被AI坑得删库？
素有‘SaaS 教父’之称的 Jason Lemkin 表示销售部门不再招聘人工员工，将用 Agent 突破 AI 应用极限。SaaStr 目前部署 20 个 Agent 承接工作，虽有人质疑其激进做法，但他仍看好 Agent 应用。
明年让AI可靠地抢走你的活儿？Anthropic 首席产品官曝新年目标：大模型不拼 “更聪明”，终结“公司上AI，员工更累”尴尬
2025 年智能主体全面爆发，编码领域智能体成突破点，Anthropic 的 Claude Code 表现突出，份额超 OpenAI。其首席产品官 Mike Krieger 梳理发展方向，指出明年重点解决企业部署 AI 但员工未变高效问题。
阿里重磅开源 0.5B TTS + 0.8B ASR，支持跨语种音色克隆、说唱识别！
2025 年 AI 圈风向变了，开始卷端侧模型。阿里 FunAudioLLM 团队发布 Fun - CosyVoice3 0.5B 和 Fun - ASR - Nano 0.8B，TTS、ASR 双线程开源，是工程级版本，目标是在本地跑顺‘听 + 说’。
像原始人一样和AI对话，费用可直接砍掉40%
开源项目‘caveman-compression’能帮使用ChatGPT API或其他大模型的用户省钱。原理是删废话留关键信息，有调用OpenAI和本地NLP两种压缩方式，不同场景省钱效果不同，还介绍了使用方法。
别争了，OpenAI才是云厂商的「最大甲方」
OpenAI与亚马逊达成380亿美元基础设施协议，将在AWS运行AI产品。AWS为其优化算力设施，预计2026年底全面部署，2027年后可扩展。OpenAI已签多项巨额合同，也引发AI泡沫担忧。
用 Warpgate（5.8k star）在不装客户端的情况下，如何实现透明审计、统一堡垒与会话回放？
Warpgate 是完全透明的 SSH / HTTPS 等堡垒解决方案，无需额外客户端。能部署在 DMZ，提供会话录制等功能，以单一可执行文件发布，用 Rust 编写。文章介绍其痛点场景、功能、架构、上手步骤、应用场景等。
RL 是新的 Fine-Tuning
今年 9 月，Thinking Machines 研究使 LoRA 重获重视。OpenPipe 创始人 Kyle Corbitt 访谈指出，多数场景微调 ROI 低，RL 将融入 agent 生命周期成主流，但 RL 落地难在环境搭建，World Model 或为关键。
Anthropic这两天真没闲着：上线网页版Claude Code，还让Claude搞科研
Anthropic推出Claude Code网页版，无需本地安装命令行工具，还提供Claude iOS应用预览版。其有并行处理多任务等亮点。此外，还发布Claude生命科学版，搭载Claude Sonnet 4.5模型，能助力科研。
HAMi 2.7.0 重磅发布 | 异构芯片全面拓展，调度更稳、生态更强
Dynamia密瓜智能宣布发布HAMi 2.7.0版，在硬件生态、调度器、应用层生态等方面有显著进展。硬件上支持昆仑芯、燧原、AWS等芯片；调度器优化了资源计算和可观测性；应用层与vLLM、Xinference等整合。