「量化原理」共找到 413 篇相关文章
前端危！Gemini 3内测结果获网友一致好评，“有史以来最强前端开发模型”
谷歌下一代旗舰模型Gemini 3未发布便走红，内测结果显示它擅长前端、SVG矢量图生成，多模态能力更强。网友实测其在编程、绘图等方面表现出色，疑似谷歌内部文件显示发布时间为10月22日。
SGLang 确定性推理实现技术细节笔记
文章围绕SGLang确定性推理展开，介绍其启用方式，详述批次不变性原理与Batch Invariant Ops实现，如Matmul Persistent Kernel设计；还阐述确定性采样、Attention Backend配置、AllReduce改动等，给出环境变量及测试脚本，有完整解决方案。
一文读懂：GPU到底是怎么工作的？
文章详细介绍GPU工作原理，对比其与CPU差异。指出GPU擅并行计算、能解决复杂问题，还分析FLOPS、延迟、内存等因素对性能的影响，最后讲了GPU通过多线程和超量订阅获高吞吐量。
RL救不了泛化性！揭示LLM数学Reasoning的深层瓶颈
大型语言模型在数学竞赛级任务依赖机械化推理，现有评测集有缺陷。UC Berkeley团队提出OMEGA基准量化其数学泛化能力，实验揭示复杂度引发性能崩塌等问题，指出LLM创新组合难，给出改进方向。
AI 能耗救星！这个能倒着走的「可逆计算」芯片，将能耗直降10倍
最新研究提出可逆芯片，通过让计算「倒着走」，有望将AI能耗直降10倍。它基于热力学原理，避免删除数据以减少热量产生。经几十年探索，如今可逆计算或成延续计算进步关键。
21
本文聚焦vllm v1中管控模型分布式推理的核心Executor部分，介绍其4种类型及适用场景，以mp类型为例阐述Executor - Workers架构，还说明了大小数据在两者间的传输机制及原理。
Loop Engineering 实战：实现从日志扫描到预发部署的全自主闭环
文章分享 Loop Engineering 实战经验，指出传统维护循环存在看不见、记不住、没闭环问题。介绍了从 Prompt 到 Loop 的四代 AI 工程化范式，阐述 Loop 原理、组件及落地实践，还提及范式迁移和踩坑教训。
AMD跑GLM 5.2，成本只要英伟达一半
推理优化公司Wafer公布数据，用AMD的MI355X芯片跑GLM 5.2，单节点吞吐达2626 tok/s，单流吞吐213 tok/s，成本不到英伟达B200的一半。该公司详述部署过程，还提及AMD软件生态的变化及英伟达面临的挑战。
一个中大型组织到底需要怎样的AI办公，这场闭门会说清楚了
今年初麻省理工报告指出企业AI投入大但多数试点难量化回报。6月9日金山办公举办闭门会，探讨企业级AI问题，指出其要过数据、知识、安全三关，还给出选场景、重数据等判断。
Rokid火得太晚了
消费电子市场中AI眼镜迎曙光，乐奇Rokid成AI+AR品类全球销冠。它通过双目衍射光波导和双芯片架构解决轻量化与续航难题，还以开放生态脱颖而出，其判断未来眼镜将成交互主体。