搜索：推理能力提升

「推理能力提升」共找到 6217 篇相关文章

AMD跑GLM 5.2，成本只要英伟达一半

推理优化公司Wafer公布数据，用AMD的MI355X芯片跑GLM 5.2，单节点吞吐达2626 tok/s，单流吞吐213 tok/s，成本不到英伟达B200的一半。该公司详述部署过程，还提及AMD软件生态的变化及英伟达面临的挑战。

GPT之父Alec Radford团队训练出talkie - 1930 - 13b模型，其训练数据截止1931年。该模型能说新政立法、写Python代码。团队还对比其与现代模型，发现核心能力差距不大，且用老语料调教它成聊天助手时现风格问题。

随着AI在代码和图片生成领域成熟，研究人员开始关注其在游戏领域的表现。此前的专用模型缺乏跨游戏泛化能力，通用模型在游戏环境中表现不佳。为此，Player2研究员提出Pixel2Play模型，还开源了代码和数据集。

文章探讨了DeepSeek-V3大规模服务便宜但本地运行贵的原因。指出推理服务存在吞吐量和延迟的权衡，受批处理大小影响。还分析了不同模型需大批次的原因，如专家混合模型、大型管道模型等。

谷歌Gemini 2.5系列技术报告花长篇幅介绍Gemini 2.5 Pro玩《宝可梦蓝》，它通关游戏，展现出创造力与长期规划能力，还发现游戏代码Bug，但也有幻觉、思维定势等问题。Claude 4已加入比赛。

本文整理自阶跃星辰语音模型负责人杨学锐在2025年QCon全球软件开发大会的分享。介绍大模型对语音技术的重塑，涵盖识别、合成等方面；阐述端到端语音模型构建，涉及表征、架构、训推和任务；还提及模型评估方法。

英伟达官网发布专为物理AI和类人机器人打造的顶级平台Nvidia Jetson Thor。其AI计算能力强劲，相比NVIDIA AGX Orin性能和能效大幅提升，硬件配置、存储、多媒体处理及相机支持等方面表现出色，能应对复杂场景。

扩散模型成生成任务主流技术，但逐步去噪机制致推理延迟大。西湖大学提出 EPD - Solver 算法，融合三类加速思路优势，可减少积分误差、提升生成质量，还能作插件集成，突破扩散模型速度与质量权衡瓶颈。

阿里云Tair KVCache团队推出Tair - KVCache - HiSim，这是面向分布式多级KVCache管理的高保真LLM推理仿真分析工具。它能在通用CPU上高精度预测性能，支撑计算选型、存储规划和调度协同等决策，还介绍了其架构、组件、验证及性能评估等内容。

AI大牛梅涛创立的智象未来公司推出vivago2.0（智小象AI），支持图片、视频、播客生成，有上百种特效模板，生图还能自动优化prompt。其依托HiDream - A1，结合HiDream - I1和HiDream - E1能力，团队技术实力强且融资顺利。