「推理框架」共找到 3348 篇相关文章
迈向可编程观测：在GPU Kernel中构建类eBPF风格的性能探针
文章从CUDA基础讲起，以矩阵乘法为例介绍性能调优，再到PTX汇编知识，最后引入Neutrino框架构建可编程GPU性能探针。展示了GPU Kernel性能分析从宏观到微观的技术演进，提供新分析视角。
奥特曼：假如给我一千倍算力，我会这样做
奥特曼在最新访谈展望下一代模型，认为完美AI是有超人推理能力等的微型模型。理想AGI能自主发现新科学，使全球科学发现提速。他还回应算力假设，为企业指明投入资源方向。
编码封神，Gemini 2.5 Pro (I/O 版)视频秒转 App！网友：比 o3/Claude 强，Vibe 程序员集结！
谷歌 I/O 大会前，Gemini 2.5 Pro 预览版升级，重点在编码。它搞前端、做 UI 出色，能将视频变互动学习 App，推理速度提升。对标 GPT - 4.1 等，性价比高、表现优，获开发者好评。
刚刚，Anthropic新作：大模型意识被发现了
Anthropic 最新研究发现 LLM 有可被语言化报告的全局工作空间（J - space），用 Jacobian Lens 技术能读出模型思考概念、干预推理，还可暴露其未说出口的意图，为 AI 安全审计提供新途径。
76%的性能提升与模型无关？Karpathy 700次 Loop 实验揭开 Agent 最大误区
前OpenAI联合创始人Andrej Karpathy警示业界重视模型框架。Hugging Face实验表明优化模型外层执行机制可大幅提升Agent性能，Karpathy开源项目揭示AI价值在循环迭代。还介绍了搭建持续进化Agent的方法及注意事项。
拆解大模型几项核心操作背后的数学与 Infra 优化逻辑
文章拆解大模型核心操作（RMSNorm、Softmax、Causal Mask、Sampling）背后的数学与Infra优化逻辑。指出Infra优化是用数学等价变换或精度妥协换硬件利用率和推理速度，还介绍各操作原理、问题及优化方法。
Qwen-Scope：看穿大模型的“小心思”
Qwen-Scope是基于Qwen3和Qwen3.5系列模型训练的可解释性模块，通过在隐藏层插入SAE提取可解释特征。它能分析模型行为、优化模型，应用于推理、数据、训练、评估等场景，可前往Huggingface或魔搭体验。
DeepEval：LLM 应用评测不再玄学，让大模型评测像写单元测试一样简单
在大模型应用开发中，科学、自动化评测 LLM 输出质量是难题，人工评测效率低。DeepEval 是 Confident AI 团队开源的 LLM 评测框架，能用极简代码让评测像写 pytest 一样自然，内置多种评测指标，支持批量评测等。
刚刚，谷歌Gemini 3.8登场！姚顺宇：RSI巨大飞跃
深夜谷歌推出Gemini 3.8，六周内第三款Flash系列模型。含通用的Gemini 3.8 Flash和网络安全专用的Gemini 3.8 Flash Cyber，提升推理、代码能力，在多场景表现出色。已面向不同群体开放。
LLM助力突破尘封60年数学猜想！北大王立威团队大幅刷新斯坦纳比下界
北大王立威团队构建基于 LLM 的框架，聚焦 Gilbert - Pollak 猜想，将二维平面斯坦纳比从 0.824 改进到 0.8559。该进展被陶哲轩收录，工作已被 ICML 2026 接收，代码和证明均已开源。