「推理优化技术」共找到 5284 篇相关文章
AI 原生应用全栈可观测实践：以 DeepSeek 对话机器人为例
本文以 DeepSeek 对话机器人为例，介绍 AI 原生应用架构可观测需求、挑战与方案实践。分析 AI 领域痛点，提出阿里云 AI 全栈可观测架构，剖析大模型应用可观测技术，分享实战案例，还给出未来规划。
逆势降本：云上数据平台年复削减30%的治理实践
本文是朴朴科技对云上大数据平台成本治理的阶段性总结。其开展成本治理已三年，分“降本增效”三部曲：成本发现与分析、成本优化与控制、体系化治理构建，分享经验，助力同行开展相关工作。
大模型之外，向量存储如何支撑 Agent 的检索链路
文章指出大模型负责理解、推理和生成，而Agent需获取外部数据等。向量存储可将数据转化为语义向量，在Agent执行任务时找回相关内容。文章探讨向量存储技术方向，分享做法，还演示阿里云两种Serverless向量存储用法。
基于 Qwen3-VL-Embedding-8B 实现文搜图语义内容检索的实战教程
文章围绕Qwen3-VL-Embedding-8B模型展开，介绍其核心特性、技术架构等，提供环境搭建、模型部署指南，给出文搜图系统架构及代码实现，还通过电商、社交媒体、企业文档三个实战案例展示应用，最后讲解性能优化与常见问题解决方法。
AI圈再颠覆！中国AI翻译耳机通话翻译，实测震撼
科大讯飞发布全新AI翻译耳机，上海与迪拜连线对话实测表现震撼，响应延迟低至两秒。其集成“端到端语音同传”技术，采用“骨导+气导”设计。此外，翻译机2.0也升级，科大讯飞在AI翻译领域优势显著。
万字实录：VLA 范式，具身智能的曙光与迷雾丨GAIR Live
2025年5月9日，雷峰网等举办“具身智能之VLA的实践与突破”线上圆桌沙龙。多位专家探讨VLA定义、起源、技术路线等，指出其面临推理、数据等瓶颈，还讨论了与强化学习结合、数据选择、提升泛化性、长程任务及落地场景等问题。
6.1B打平40B Dense模型，蚂蚁开源最新MoE模型Ling-flash-2.0
蚂蚁百灵大模型团队开源 MoE 大模型 Ling-flash-2.0，其以轻量级配置展现卓越性能，在推理速度、任务性能、部署成本间找到新平衡，为大模型‘参数膨胀’提供新路径，还在多领域应用表现出色。
天使轮数千万元融资，这家公司想成为 AI 时代用户的安全执行顾问
主打认知安全的缔零科技获数千万元天使轮融资，资金用于「缔零法则」技术迭代等。其产品以AI治理AI，降本增效。公司曾推「缔零智数」，现「缔零法则」把控模型推理。未来有ToC计划，想成用户安全助手。
端到端语音模型：从语音表征到模型架构
本文整理自阶跃星辰语音模型负责人杨学锐在2025年QCon全球软件开发大会的分享。介绍大模型对语音技术的重塑，涵盖识别、合成等方面；阐述端到端语音模型构建，涉及表征、架构、训推和任务；还提及模型评估方法。
Qwen负责人转发2025宝藏论文，年底重读「视觉领域GPT时刻」
2025年末，Qwen大模型技术负责人林俊旸转发谷歌DeepMind入选ICCV 2025的论文，指出视觉领域“GPT时刻”要来了。研究用实验数据证明，视频模型正跳出任务专属局限，实现一个模型完成多视觉任务，推理过程还能被CoF“演”出来。