搜索：推理性能优化

「推理性能优化」共找到 4208 篇相关文章

首个企业级智能体全开源！京东云将Agent门槛直接给打没了

京东云JoyAgent成为首个100%开源企业级智能体，完整能力全部开源，企业开发者可本地独立部署。它多智能体协同能力强、性能一流，还具多项技术创新，解决了企业AI落地难题。

7月国产开源大模型竞争激烈，智谱发布的GLM - 4.5刷新开源大模型编程和agent能力。它成本低、速度快，还能与Claude Code配合。文章介绍该模型特点，分享二者使用教程及原型设计、网站开发等实测案例。

在人工智能模型规模持续扩大的今天，数据集蒸馏方法能提升训练效率、降低成本，但蒸馏模型在安全性要求高的任务中抗干扰难。北航上海AI Lab团队提出ROME方法，无需对抗训练，显著提升模型鲁棒性，成果被ICML 2025接收且已开源。

介绍开源监控工具 Checkmate，它由 BlueWave Labs 开发，主打“自托管 + 全功能 + 易上手”，功能强大、性能卓越、灵活易用，已获 7.4K star，受大厂工程师青睐。还介绍了其功能特色、安装方法。

真机数据匮乏使具身智能VLA模型发展受限，现有真机数据与所需上亿级训练样本相差甚远。BeingBeyond团队提出创新性方案，利用人类视频手部数据构建数据集，训练出VLA模型Being - H0，经实验验证效果良好。

创智学院团队发布的AI超智能系统ASI - ARCH，自主发现106个超越人类设计的神经网络架构，建立“科学发现缩放定律”，实现从“自动化优化”到“自动化创新”转变，还将成果开源推动研究发展。

文章聚焦于用pytorch memory snapshot分析模型训推显存消耗，不讨论工具使用，侧重解读记录内容。以混合精度训练为例，介绍各步骤显存管理细节，还给出单层、双层模型及zero1训练的显存分析。

VoiceCraft 是多团队合作推出的零样本语音编辑与 TTS 开源项目。它能几秒克隆语音，实现编辑功能，支持零样本文本转语音，在真实场景音频中性能超 XTTS - v2、VALL‑E 等模型，解决了内容创作和编辑痛点。

文章推荐5个Github开源项目。有基于Firefox内核的浏览器Zen Browser；跨平台划词翻译工具Pot；异步终端文件管理器yazi；局域网文件传输工具Snapdrop；网页管理服务器文件工具FileBrowser Quantum，各有亮点。

北京智源研究院联合中科院自动化所提出 UniVLA 全新 VLA 模型架构，基于全离散、自回归机制建模多模态信号，后训练引入世界模型。它刷新多项基准纪录，在真机操控和自动驾驶有潜力，为多模态感知决策融合带来新思路。