「推理技术」共找到 4544 篇相关文章
图解Vllm V1系列5：调度器策略（Scheduler）
本文是图解Vllm V1系列5，聚焦调度器策略。先回顾vllm v1整体运作流程，接着阐述调度 - 推理的整体流程，包括将请求添加进Scheduler、Scheduler单步调度策略等，还对比了不同场景下的函数及调度逻辑。
万亿思考模型新速度！蚂蚁开源Ring-2.5-1T：IMO金牌水平，强；混合线性架构，快！
蚂蚁集团发布全球首个开源混合线性架构万亿参数模型Ring - 2.5 - 1T，打破深度思考牺牲推理速度和显存的‘不可能三角’。还同期发布扩散语言模型LLaDA2.1和全模态大模型Ming - flash - omni - 2.0，想做成可复用底座。
当AI从云端“下沉”，Arm如何赋能端侧
端侧AI发展近十年，已进入应用快速拓展期，成为推动消费电子革新重要力量，但面临视觉处理、内存平衡和应用迭代等挑战。Arm推出相关平台与技术，如SME2，提升AI性能与能效，还与厂商合作，持续创新赋能端侧。
只用国产GPU训练的大模型性能飙升100%！国内唯一，更懂你
科大讯飞发布全国产算力训练的讯飞星火X1.5，推理效率暴涨100%，综合性能跻身全球顶级。还首发非自回归语音大模型架构，效果提升、成本降低。此外，展示多领域应用成果，发布相关产品，开源智能体平台。
数据困局下的具身智能，谁能率先破局？
具身智能面临数据困局，Skild AI 关注真实数据不足难题。学者 Levine 称只有真实数据能达通用具身智能，而王鹤认为合成数据可助具身智能冷启动和规模化发展。遥操作和 Sim2Real 是不同技术路线。
中国最新Agent产品趋势：多体协同，垂直赛道，行业核心业务 | 量子位智库AI 100
量子位智库2025Q3 AI100榜单中的Agent产品亮点颇多。智能体技术从单点向系统协作发展，应用落地深化至行业。如科研、投资领域的Agent发挥重要作用，部分产品流量可观，多款新发布产品入围。
英伟达最新芯片B30A曝光
最新消息，英伟达正开发代号B30A的AI芯片，性能超H20，基于Blackwell架构，单芯片配置，原始算力或为B300 GPU双芯片一半，下月交付测试。此外还将开发RTX6000D用于AI推理，9月小批量交付。
陶哲轩长文剖析现代社会：大型组织挤压小型社群，个体陷入疏离困境，AI正在加速这一进程
陶哲轩长文以协作式数学项目社群现象为切入点，提出观察现代社会的框架。指出现代技术和激励体系在赋能个体与大型组织时，严重削弱小型组织，导致个体精神上出现脱节感，AI还在加剧这一问题，并给出新兴草根组织视角。
开源打破“AI黑箱”！集结全球大咖，GOSIM Paris 2026带你看懂Agent时代大变局
GOSIM Paris 2026在巴黎举办，是面向开发者的开源AI技术大会。大会由GOSIM主办，CSDN等联合打造，聚焦AI能力落地应用。首日Keynote多位大咖探讨AI相关问题，还有三大论坛、工作坊、Hackathon等活动。
The Batch: 944 | Llama 之后的时代
Meta发布首个AI模型Muse Spark，是多模态推理模型，在部分健康和多模态测试领先，编程与智能体任务有不足。Meta披露技术细节少，该模型基准测试有竞争力，但其从开放转向封闭引开发者担忧。