「推理性能」共找到 3456 篇相关文章
GPU到底是如何工作的？这篇AI Infra入门全部告诉你
本文详细介绍了GPU工作原理及编程模式。它从图形渲染发展到GPGPU，NVIDIA推动其通用计算。还阐述了CPU/GPU异构架构，对比二者性能，介绍编译、加载、启动过程，以及GPU硬件架构、编程与执行模型，分析SIMD和SIMT。
8 位 AI Infra 高管复盘 WAIC：当堆砌「暴力美学」触顶，AI Infra 如何求变？
雷峰网与8位参展AI Infra公司的决策者交流，捕捉行业新方向和共识。今年行业关注重心从拼规模转向比效率，Token推理成算力消耗主体，AI工厂和Token工厂共生，未来竞争聚焦效率，不同玩家各有优劣。
里程碑时刻！首个100B扩散语言模型来了，技术报告揭秘背后细节
蚂蚁集团与高校联合团队推出 LLaDA2.0 系列扩散语言模型，其中 LLaDA2.0 - flash 参数量达 100B。技术报告披露细节，其解决了 dLLM 做大做强难题，性能比肩 AR 模型，为扩散模型工业化带来转机。
老外傻眼！明用英文提问，DeepSeek依然坚持中文思考
DeepSeek-V3.2和DeepSeek-V3.2-Speciale推理能力显著提升，海外研究者用英文提问，它却用中文思考。评论有两种观点，相关论文显示中文省token但非最有效，大模型选思考语言并非只看效率。
无需标注和奖励模型！仅靠自信度RL，16个样本训练20步，效果飙升21%！
论文提出RLSC，让大语言模型用自身答案置信度作奖励信号，摆脱人类标注依赖。它以模型自信度内部信号替代多数投票外部信号，小成本提升模型数学能力，还让模型学会快推理，不过也存在安全隐忧。
硅谷今夜学中文！Cursor被曝「套壳」国产，AI顶级人才全是华人
新智元报道，硅谷AI圈现神奇现象，不会中文难进核心团队。海外模型频“偷师”国内开源模型，如Cursor的Composer思考时说中文，Windsurf用GLM-4.6微调。国内开源模型量大管饱、性能好还便宜，能力稳居第一梯队。
机器人需要一个「思考系统」：τ0-VLA让具身智能迈向长程任务时代
2026 WAIC落幕，具身智能成焦点。当前VLA模型在长程任务中有局限，上海创智学院和智元机器人联合发布τ(0)-VLA，提出分层架构和新推理机制，用大量真机数据训练，在长程任务表现出色。
在WAIC耳朵听出茧子的「智能体」，是时候系统学一下了
今年世界人工智能大会上，智能体成主角，AI厂商纷纷布局。文章指出人们对AI大模型期望转变，介绍智能体底层逻辑，涵盖工具使用、推理模型、ReAct框架等，还对比先前尝试，探讨智能体能力层次与未来发展。
全球首个英伟达含量为0的万亿模型，成了海外开发者的抢手货
美团推出LongCat-2.0，是首个在国产算力上实现全链路训推闭环的万亿参数模型。它多项性能强，适配主流编程工具，架构设计原创，还证明了国产算力有支撑大模型迭代的能力，训推成本更低。
理想的眼镜，和李想的眼界
今年11月，李想称要让理想成具身智能领域最佳企业。一周后，理想发布AI眼镜Livis。Livis解决了轻便、续航与性能的矛盾，还利用造车积累实现资产复用。理想推它是因AI眼镜潜力大，能输出跨场景AI能力。