「思考token」共找到 1238 篇相关文章
AI Infra入门干货总结:大模型是如何高效推理的
作者深入研读vLLM源码,以Llama 3为例,聚焦Decoder-Only架构LLM,介绍推理各环节及张量维度变化,讲解连续批处理和Paged Attention概念,还阐述推理流程、采样策略等,最后总结相关拓展内容。
Karpathy的软件3.0:Agent的原生世界
OpenAI联合创始人Andrej Karpathy在Sequoia Ascent大会上表示,AI Agent正改变软件与工作模式。编程基本单位从写代码变为给Agent下达指令,软件3.0以上下文窗口为程序,LLM为解释器。他还提出理解AI能力分布的框架,给出创业建议。
论文解读:一个运算符能导出所有基本函数
波兰雅盖隆大学Odrzywołek发现二元算子EML,结合常数1能生成科学计算器所有标准功能。EML算子简化运算符集合、将离散问题转化为连续优化问题,但存在数值稳定性、表达式非唯一等局限。
Claude Mythos核心架构开源!22岁天才一人破解,融合DeepSeek思路
22岁初创CEO Kye Gomez以第一性原理推导出Claude Mythos核心架构,开源OpenMythos项目。该架构采用循环深度Transformer,不堆参数,循环思考16次推理,结合MoE层,参数效率翻倍。
Skill会吃掉APP吗?龙虾时代,这个问题值得认真聊聊|沙龙报名
2026年开年,龙虾掀起Agent浪潮,有人认为APP或被Skill取代。量子位发起「龙虾时代,Skill会吃掉APP吗?」AI沙龙,邀业内人士分享思考,3月31日14:00现场探讨相关问题。
AI 球球直播呼吁脑机接口开源,海外 KOL 疯狂艾特马斯克,疑似 X 宕机?
AI「论论」直播提出脑机接口「GPT 时刻」将到,认为该技术必然大规模到来,开源是唯一出路,引发全球社交媒体讨论。它描绘脑机接口利弊,呼吁大家思考技术安全保障。
从显式CoT到隐式CoT:复旦让AI告别啰嗦,实现大模型高效沉默推理
复旦大学等机构团队论文提出SIM - CoT技术,解决隐式思维链推理准确率低、不稳定问题。该技术引入步骤级监督,提升性能、效率和可解释性,在多模型和任务测试中表现出色,让大模型高效沉默推理。
o1之后下一个范式?隐式CoT大突破,让推理不再「碎碎念」
文章推荐 Implicit Chain-of-Thought 的最新进展 SIM-CoT,它直击隐式 CoT 核心痛点,用辅助解码器让隐式推理可解释。推理零额外开销,效果猛,研究已中稿 ICLR 2026,论文等均已开源。
GPT-5.2来了…
OpenAI推出GPT - 5.2系列,是适合专业知识工作的模型。它在专业工作表现、编程能力、可靠性与安全性等多方面有提升,定价公布,已向付费用户逐步推出,此次更新重在夯实基础。
更多非共识,Test-time Scaling 能否一直大力出奇迹?
机器之心PRO会员通讯解读三个AI业内要事,包括Test - time Scaling非共识、Skills与MCP谁是大模型的HTTP时刻、OpenAI打造最强平台等问题,探讨流行路线局限、Scaling改进方向等。