「推理模式」共找到 2844 篇相关文章
【博客转载】CUDA Constant Memory
文章介绍 CUDA 常量内存，它是设备上 64KB 被缓存的只读特殊内存空间。通过示例比较不同访问模式下常量内存和全局内存性能，指出块或 warp 一次访问时，常量内存快 10%；线程一次或伪随机访问时，慢很多。
以史为鉴：从互联网泡沫到英伟达五万亿
文章回顾互联网发展历程及泡沫破灭影响，对比当下AI浪潮，指出英伟达成首家市值破五万亿美元公司。探讨AI是否为泡沫，认为其未来发展或类似互联网，还分析英伟达走势及国产GPU替代、AI边缘推理领域前景。
T-PAMI｜中国科大、合工大等提出CAPER++：让关节物体位姿感知真正迈向「又快又稳」
在具身智能发展下，关节物体位姿感知难题待解。中国科大、合工大等团队提出 CAPER++ 框架，从关节驱动视角建模，将位姿学习拓展至 SE (3) 流形切空间，实现端到端推理，兼顾精度、鲁棒性与实时性。
LM Studio宣布支持在Mac上跑Qwen3-Next 80B模型
LM Studio宣布支持基于MLX框架在Mac上运行阿里Qwen3-Next 80B模型。该模型虽总参数量达800亿，但每次推理仅激活30亿。第三方评测显示其4bit量化运行效果好，不过实现GGUF格式支持尚需时间。
Harness Engineering 为什么是 Agent 时代的“控制论”？
本文是 George Zhang 对 Harness engineering 的解读。OpenAI 提出新工作方式，让 agent 编码，引发讨论。从瓦特调速器到 Kubernetes 再到如今的 harness engineering，本质都是控制论模式。LLM 或使代码库反馈回路在关键决策层闭合，但校准传感器和执行器是难题。
24张图，从GPT-2到gpt-oss，看OpenAI开源模型技术演进
2025年8月OpenAI释出gpt-oss-20b与gpt-oss-120b两个开源权重模型。文章梳理了从GPT - 2到gpt - oss的技术演进，拆解关键创新点，对比了与Qwen3的差异，介绍训练推理细节、实测体验及与GPT - 5跑分对比情况。
Axiom Math 对谈 SGLang：模型的下一步是可验证，结果层才是真正的护城河
在AGI Playground 2026圆桌论坛，Axiom Math联合创始人等探讨AI核心问题。提到AI进入生产环境，可验证或成瓶颈，还从长任务智能体、推理基建等多方面深入交流，如模型验证、基建优化等。
开源 3 天斩获 2.5K Star！这个去AI味写作 SKILL，比市面上的AI检测器更懂写作！
开源项目no-ai-slop上线3天获2.5K Star，它是去AI味写作辅助工具。不只是检测，还能改稿，会识别、去除AI套路且保留风格。提供改稿与检测模式，有20+种套路示例，还配自检表。
2026拜年别写对联了，让AI替你写首歌吧
自由量级发布新模型音潮V3.0，从写词到编曲能一键生成音乐。它有多种创作模式，降低音乐创作门槛，普通人也能轻松生成歌曲。其在演唱、旋律、编曲等方面显著提升，还开源部分成果。
AI看图一本正经胡说八道？「一拉一推」让模型看得全又准｜微软x清华
随着视觉 - 语言模型（VLM）推理能力增强，‘看错’问题凸显。现有方法有局限，微软亚洲研究院与清华提出BiPS，从训练阶段重塑模型‘看图方式’，通过‘一拉一推’机制让模型‘看全又准’，实验效果显著。