「预发部署」共找到 1442 篇相关文章
vLLM 正式支持 PaddleOCR-VL
11月4日，vLLM项目宣布正式支持PaddleOCR-VL模型。该模型专注文档解析，参数量仅0.9B。合作降低部署门槛，推理效率更高，官方还给出部署指南和配置建议，流程快速完成可作榜样。
RAE+VAE? 预训练表征助力扩散模型Tokenizer，加速像素压缩到语义提取
近期，RAE 提出以「 冻结的预训练视觉表征」作潜空间提升扩散模型性能。同期西安交大与微软亚研院提出 VFM - VAE，结合 RAE 与 VAE，能加速模型收敛、提升生成质量，展示扩散模型 Tokenizer 演化方向。
我烧了上亿token玩Clawdbot，结果发现国产平替更香，还免费。
作者花上亿token研究Clawdbot，发现其虽火但贵，Cowork也因收费和网络限制被盖过热度。作者转而探寻国内平替，介绍阿里云上线Moltbot云服务，重点推荐阿里QoderWork，测试后认为它是能打的免费平替。
OpenClaw最佳工具榜来了！这6款龙虾最受欢迎
OpenClaw生态火了，第三方搭建的OpenClaw Directory网站收录39个相关工具，按功能分类，支持筛选排序。文中介绍总榜前六工具，如Claw for All简化部署管理，OpenClaw Launch 30秒一键部署等，网站还有教程库。
SpaceX：天基基础设施垄断者
传言SpaceX明年将IPO，作者认为其正把‘先发优势’转为‘物理垄断’，将成‘人类未来天基基础设施的唯一垄断者’。它有极强运力成本优势，能抢占轨道和频谱资源，变现方式或为把GPU发上天。
从后训练回到预训练，LLM+RL 的潜力兑现有有机会走更远吗？
RL与LLM结合是重要技术方向，应用从后训练延伸至预训练。虽看似为LLM+RL带来希望，但RL本身有局限。微软等提出的RPT有潜力，不过训练语料等未广泛验证，且需大量计算资源。
1w颗星！多平台 LL M 聊天机器人及开发框架AstrBot！
AstrBot是聊天机器人及开发框架，松耦合、异步，支持多消息平台部署。它功能丰富，支持多种大语言模型，有Agent能力、插件扩展等，还介绍了多种部署方式、平台及提供商支持情况。
让大模型“跑”在手机里：vivo蓝心端侧部署创新揭秘，性能功耗双优！
在AICon2025上海站，vivo AI研究院工程师章苏迟分享蓝心大模型端侧部署方案。介绍端侧大模型优势及应用场景，阐述内存、性能、功耗等指标优化方法，还提及多业务场景应对策略与安全合规措施。
免费开源、可本地部署的AI私人助理Clawdbot，保姆级搭建教程来了
本文提供免费开源、可本地部署的AI私人助理Clawdbot的搭建教程。它能在多平台运行、连接工具和技能。教程涵盖创建虚拟机、安装Node.js和Clawdbot、设置连接等步骤，还介绍技能扩展和VPS运行方案。
Google 发了个压缩算法，内存砍 6 倍，速度快 8 倍，精度零损失
Google Research发布TurboQuant压缩算法，将在下月ICLR 2026正式发表。该算法把大模型的KV Cache压缩到3 bit，内存降6倍、速度快8倍且精度零损失，解决了传统算法的压缩开销问题。