「推理系统」共找到 3586 篇相关文章
解析天花板？TextIn xParse如何为RAG打造「零损耗」知识管道
在AI应用发展中，LLM与RAG系统成核心引擎，但项目落地时模型表现常难达预期，根源在于文档解析质量。TextIn xParse能为RAG打造‘零损耗’知识管道，本文从多方面对其解析能力进行了解读。
首创Mid-training范式破解RL奥秘，Llama终于追平Qwen！
上海创智学院和上海交通大学研究团队深入探讨不同基础语言模型在强化学习训练中的差异，提出中期训练策略，将 Llama 改造成适配 RL 的推理基础模型，缩小与 Qwen 性能差距，还发布了 MegaMath-Web-Pro-Max 数据集。
LLM近期重大架构进化一览：从Gemma 4到DeepSeek V4
近期大模型长上下文需求增长，成本问题凸显。Google Gemma 4、Poolside Laguna XS.2、Zyphra ZAYA1 - 8B、DeepSeek V4 等模型各有架构优化，如 Gemma 4 跨层 KV 共享和 PLE，以降低长上下文推理成本。
CVPR 2026 | 从视觉Token内在变化量出发，实现VLM无损加速1.87倍
随着高分辨率图像与长视频处理需求增长，大型视觉语言模型推理效率成瓶颈。V²Drop从视觉Token内在变化量出发，采用多阶段渐进式剪枝策略，实现无损加速，在图像和视频理解场景表现卓越。
基于LLM的Agentic Reasoning框架综述：从方面到场景的全面总结
近年来，大型语言模型虽能力强但有局限，研究者构建基于LLM的智能体系统。此综述论文提出系统、统一分类法梳理智能体推理框架，建立统一描述语言和通用算法，分析其在不同场景表现与评估方法。
PyTorch博客翻译 Accelerating Generative AI Part III: Diffusion, Fast
这篇博客介绍用纯原生 PyTorch 技术将文本到图像的 diffusion 模型（特别是 Stable Diffusion XL）推理速度提升高达 3 倍的方法，讲解五种优化技术，还验证了方法在其他 diffusion 模型上的通用性和有效性。
The Batch: 918 | 智能体 AI 引发投资者恐慌
投资者担忧AI系统动摇软件制造商商业根基，致标普软件与服务指数等大幅下挫。Anthropic推出多款产品加剧风波，后与部分公司合作使SaaS类股反弹，但未收复全部跌幅。AI正重塑软件市场，SaaS未死，正迈向AI原生化。
消费级显卡跑大模型训练门槛再降：Qwen3-1.7B强化学习只需5GB显存
消费级显卡跑大模型训练门槛再降，Unsloth AI的FP8精度强化学习方案让Qwen3 - 1.7B的GRPO训练只需5GB显存且性能无损。该方案与TorchAO合作，有推理优势，还在内存优化等方面表现出色。
小模型，大能量！200美金的GPT Pro竟然输给了它？
博主用11个场景深度测试昆仑万维的Skywork R1V4 - Lite，它能做到Gemini 2.5 Pro才能干的事，速度快、成本低。在定位、人物识别、生活实用、专业鉴定、学术研究等场景表现出色，核心突破在于主动图像操作与深度推理。
半年销量2000万+，宇凡微如何让AI模块“飞入寻常百姓家”？
芯师爷专访宇凡微品牌部总监张雨，探讨AI模块商业化前景。宇凡微展出多款AI模块，接入豆包大模型，有自研SAS系统等优势。其通过技术、市场等层面建护城河，践行“技术平权，快速量产”理念，未来向全场景方案升级。