「推理加速技术」共找到 4909 篇相关文章
银河通用X清华大学发布业内首款开源人形机器人全身遥操系统OpenWBT，支持多机型、跨虚实，小时内可轻松部署
银河通用与清华大学合作发布全开源人形机器人全身遥操作系统OpenWBT，新手小时内可部署。该系统有极简部署、多机型跨平台、兼顾虚实遥操三大亮点，背后技术解决了sim2real迁移难题。
奥特曼：假如给我一千倍算力，我会这样做
奥特曼在最新访谈展望下一代模型，认为完美AI是有超人推理能力等的微型模型。理想AGI能自主发现新科学，使全球科学发现提速。他还回应算力假设，为企业指明投入资源方向。
天翼云息壤筑底AI：夯实基建，驱动智变｜甲子光年
文章指出AI普及需强大平台架构等作为底座，而当前基础设施迭代难满足需求。天翼云在峰会宣布全面升级息壤，聚焦三领域，从夯实技术、提升自主可控、培育生态三方面支撑千行百业转型。
编码封神，Gemini 2.5 Pro (I/O 版)视频秒转 App！网友：比 o3/Claude 强，Vibe 程序员集结！
谷歌 I/O 大会前，Gemini 2.5 Pro 预览版升级，重点在编码。它搞前端、做 UI 出色，能将视频变互动学习 App，推理速度提升。对标 GPT - 4.1 等，性价比高、表现优，获开发者好评。
拆解大模型几项核心操作背后的数学与 Infra 优化逻辑
文章拆解大模型核心操作（RMSNorm、Softmax、Causal Mask、Sampling）背后的数学与Infra优化逻辑。指出Infra优化是用数学等价变换或精度妥协换硬件利用率和推理速度，还介绍各操作原理、问题及优化方法。
Qwen-Scope：看穿大模型的“小心思”
Qwen-Scope是基于Qwen3和Qwen3.5系列模型训练的可解释性模块，通过在隐藏层插入SAE提取可解释特征。它能分析模型行为、优化模型，应用于推理、数据、训练、评估等场景，可前往Huggingface或魔搭体验。
AI 驱动的数据库心脏：如何让云原生「自我进化」
本文深度解析腾讯云自研云原生数据库 TDSQL - C，它融合 Serverless、AI 技术，解决传统数据库痛点。具备存算分离、智能伸缩、AI 预测等特性，能降本增效，还可全球部署，为企业数字化出海提供数据基座。
[Triton编程][基础]vLLM Triton Merge Attention States Kernel详解
文章详细介绍vLLM中Triton Merge Attention States Kernel的实现，与PyTorch原生实现对比，该Triton kernel最高可实现3 - 5倍以上算子加速。内容涵盖Merge Attention States概念、PyTorch实现、Triton基础算子、分析及性能评估等。
刚刚，谷歌Gemini 3.8登场！姚顺宇：RSI巨大飞跃
深夜谷歌推出Gemini 3.8，六周内第三款Flash系列模型。含通用的Gemini 3.8 Flash和网络安全专用的Gemini 3.8 Flash Cyber，提升推理、代码能力，在多场景表现出色。已面向不同群体开放。
一块TFT“屏幕”，如何成为AI4S验证新标准？
Anthropic呼吁放缓AI研究，AI for Science领域上下游能力增长矛盾凸显。TFT天然具备阵列化、高密度等特点，与AI for Materials验证需求匹配。领挚科技基于TFT技术为行业提供验证标准，助力科研成果产业化。