「结构化推理」共找到 3026 篇相关文章
AMD跑GLM 5.2，成本只要英伟达一半
推理优化公司Wafer公布数据，用AMD的MI355X芯片跑GLM 5.2，单节点吞吐达2626 tok/s，单流吞吐213 tok/s，成本不到英伟达B200的一半。该公司详述部署过程，还提及AMD软件生态的变化及英伟达面临的挑战。
拒绝视频生成，深度跃迁提出具身基座模型全新路线
深度跃迁发布世界动作模型 DELE - w0.5，放弃基于视频生成模型的路线，训练时联合学习动作与未来世界表征，推理时移除该表征分支。在真机实验中表现超基线，具跨背景泛化能力，为世界模型提供新思路。
刚刚，小红书开源了首个多模态大模型dots.vlm1，性能直追SOTA！
小红书人文智能实验室（hi lab）低调开源视觉语言模型dots.vlm1。该模型基于自研视觉编码器构建，在视觉理解和推理任务上接近SOTA水平，实测表现惊艳，还介绍了其技术架构、预训练数据布局等内容。
为什么 DeepSeek 大规模部署很便宜，本地很贵
文章探讨了DeepSeek-V3大规模服务便宜但本地运行贵的原因。指出推理服务存在吞吐量和延迟的权衡，受批处理大小影响。还分析了不同模型需大批次的原因，如专家混合模型、大型管道模型等。
一文读懂 RAG 与 KAG：原理、工程落地与开源实战（含代码与链接）
文章介绍RAG与KAG，RAG从文档找证据回答，适合开放域、时效更新快场景；KAG将结构化知识融进生成过程，实体关系与事实一致性更稳。还给出实战建议、工作流要点、最小可跑示例、开源组件及项目等。
JoyInside 创新大赛现场，我看到 AI 硬件长出了灵魂
作者曾对多数AI硬件失望，认为其有硬件没灵魂。但在观猹和京东联合举办的JoyInside创新大赛上，20强产品让其改观。大赛基于京东JoyAI大模型，缩短产品上市周期，前三名产品各有亮点，还呈现场景垂直化和交互方式改变趋势。
阿里云Tair KVCache仿真分析：高精度的计算和缓存模拟设计与实现
阿里云Tair KVCache团队推出Tair - KVCache - HiSim，这是面向分布式多级KVCache管理的高保真LLM推理仿真分析工具。它能在通用CPU上高精度预测性能，支撑计算选型、存储规划和调度协同等决策，还介绍了其架构、组件、验证及性能评估等内容。
国产Agent第一股要来了？但官网都打不开，什么妖魔鬼怪？
国内最大AI数字员工公司冲刺IPO，要做企业Agent第一股，但其官网无法访问。该企业级Agent平台是RPA+AI组合，RPA有致命问题，大模型加入后虽有变化，但事情本身护城河不深，公司靠定制化冲击IPO，且仍亏损。
卷进“芯片的窄门”
文章指出国内EDA领域目前实力弱，企业多为“点工具公司”，与美国差距大。但作者对国产EDA乐观，基于中国市场增长快、海外巨头有断供风险、国内竞争未到最激烈时。还分析海外崛起模式及中国困境，提出“特色化整合”路线。
高性能计算群星闪耀时
本文介绍了高性能计算（HPC）在大模型时代的重要性，以及清华高性能计算团队在HPC及相关领域的研究与实践。如郑纬民带领团队突破存储技术，陈文光、翟季冬等助力大模型训练，武永卫团队优化推理，张悠慧探索类脑计算。