「token熵分布」共找到 740 篇相关文章
拆解大模型几项核心操作背后的数学与 Infra 优化逻辑
文章拆解大模型核心操作（RMSNorm、Softmax、Causal Mask、Sampling）背后的数学与Infra优化逻辑。指出Infra优化是用数学等价变换或精度妥协换硬件利用率和推理速度，还介绍各操作原理、问题及优化方法。
当黄仁勋反复提起OpenClaw，他到底在焦虑什么？｜甲子光年
美国当地时间3月18日，「甲子光年」参加英伟达黄仁勋在GTC 2026的媒体会。黄仁勋多次提及OpenClaw，认为它很重要。英伟达不仅造GPU，还构建AI工厂，试图成为新计算秩序定义者。
黄仁勋年初对话：2025 的 AI 如何塑造产业的「五层蛋糕」？
NVIDIA 创始人黄仁勋接受专访，反驳 AI 致失业说法，阐述 AI 技术栈「五层蛋糕」模型，强调开源重要性，批评「上帝 AI」与末日论，还谈到 AI 成本下降、能源需求及「AI 泡沫」等议题。
OpenAI深夜双王炸！GPT-5.1 Pro紧急发布，降维打击Gemini 3
OpenAI同一天发布GPT-5.1 Pro和GPT-5.1-Codex-Max。前者向Pro订阅用户推出，主打「情商智商」双强；后者在Codex平台上线，专为「长时间、高强度」开发任务设计，采用「压缩」机制，表现出色。
被DeepSeek带火的OCR，最新8个开源模型盘点~
DeepSeek-OCR发布让OCR大热，PaperAgent梳理盘点8个热门开源OCR模型，如DeepSeek-OCR用‘上下文光学压缩’技术，Nanonets-OCR2-3B以零样本视觉链式思维为核心等。
AI Infra入门干货总结：大模型是如何高效推理的
作者深入研读vLLM源码，以Llama 3为例，聚焦Decoder-Only架构LLM，介绍推理各环节及张量维度变化，讲解连续批处理和Paged Attention概念，还阐述推理流程、采样策略等，最后总结相关拓展内容。
700多个「坏模型」喂出AI测谎仪？Anthropic审计神器让AI自曝黑料
Anthropic故意训练近700个「有问题」模型，训了LoRA适配器（IA）让模型自报家门。IA在AuditBench平均成功率59%，但也存在幻觉、成本高、训练分布无指南等局限。
训练机器人方式对了吗？英伟达DreamZero双榜第一新反思
NVIDIA的DreamZero在RoboArena和MolmoSpaces基准测试双登顶。分析文章《Why is DreamZero so good at robotics?》从多维度拆解其表现突出原因，质疑传统认知，如数据量并非万能，模型规模和信息输入方式也很关键。
o1之后下一个范式？隐式CoT大突破，让推理不再「碎碎念」
文章推荐 Implicit Chain-of-Thought 的最新进展 SIM-CoT，它直击隐式 CoT 核心痛点，用辅助解码器让隐式推理可解释。推理零额外开销，效果猛，研究已中稿 ICLR 2026，论文等均已开源。
GPT-5.2来了…
OpenAI推出GPT - 5.2系列，是适合专业知识工作的模型。它在专业工作表现、编程能力、可靠性与安全性等多方面有提升，定价公布，已向付费用户逐步推出，此次更新重在夯实基础。