「大模型推理系统」共找到 9021 篇相关文章
SmolVLA: 让机器人更懂 “看听说做” 的轻量化解决方案
文章介绍轻量级开源视觉 - 语言 - 动作 (VLA) 模型 SmolVLA，专为机器人领域设计，可在消费级硬件运行。它用公开数据集训练，架构经优化，还引入异步推理堆栈，性能超部分大模型，降低研究门槛。
突破Agent长程推理效率瓶颈！MIT&新加坡国立联合推出强化学习新训练方法
AI Agent处理复杂任务时显存、算力问题凸显，MIT和新加坡国立大学联合提出MEM1框架。它基于强化学习，让智能体学会管理记忆，实现近似常量级显存开销，在多方面表现超越大模型。
LLM-based Reranker效果到底如何？一项关于SoTA模型的全面分析
在信息爆炸时代，重排序是信息检索系统核心。论文对22种重排序方法实证研究，构建无污染数据集FutureQueryEval。结果显示LLM重排序器泛化能力被高估，轻量级模型有优势，为研究和应用提供指南。
Claude和GPT思维链竟被两步蒸馏！116页论文曝光API致命漏洞
2026年AI蒸馏成悬案，一篇116页论文砸穿巨头「黑盒」。研究人员用低价小模型恢复Claude、GPT和Gemini原始推理，还发现API漏洞存在跨会话、用户和模型互通情况，收集公开轨迹泄露诸多敏感信息。
Redis 之父：哪怕被喷我也得说，AI 远远落后于人类程序员！开发者跟评：用大模型气得我自己写代码都有劲儿了
Redis之父Antirez分享开发经历称人类程序员仍比大模型出色，举例说明在解决Redis复杂bug时，人类的创造力能想出奇特有效的解法，而大模型较难做到。开发者看法不一，有将其当助手，也有认为它会干扰思路。
支持30种语言，多种中文方言 [四川话、粤语等]的颠覆性无分词器TTS系统
VoxCPM是无离散音频分词器的语音合成系统。VoxCPM2基于MiniCPM - 4构建，有20亿参数，支持30种语言和9种中文方言，具备音色设计、可控声音克隆等特性，还完全开源，商用就绪。
12秒生成1万token！谷歌推出文本「扩散模型」Gemini Diffusion，研究员：演示都得降速看
谷歌将图像生成常用的“扩散技术”引入语言模型，推出Gemini Diffusion，12秒能生成1万tokens，速度比Gemini 2.0 Flash - Lite更快。它通过逐步优化噪声学习生成输出，目前是实验性演示，可申请体验。
Gemini准确率从21%飙到97%！谷歌只用了这一招：复制粘贴
Google Research研究发现，将输入问题复制粘贴一遍，能让大模型在非推理任务上准确率惊人提升，如Gemini 2.0 Flash - Lite从21.33%升至97.33%，且几乎不影响生成速度，但不适用于推理场景。
奥特曼：假如给我一千倍算力，我会这样做
奥特曼在最新访谈展望下一代模型，认为完美AI是有超人推理能力等的微型模型。理想AGI能自主发现新科学，使全球科学发现提速。他还回应算力假设，为企业指明投入资源方向。
PDF文件长出「AI大脑」？网友惊呼：这操作太「黑科技」了！
极客Aiden Bai将大语言模型塞进PDF，可让AI讲故事、聊天，Linux系统也能在其中运行。项目嵌入小型语言模型，如TinyStories、Pythia和TinyLLM，利用PDF支持的JavaScript实现，虽有局限但潜力大。