「推理训练」共找到 3569 篇相关文章
200行python代码实现从Bigram模型到LLM
本文从`babygpt_v1.py`出发，逐步加入self-attention机制、position嵌入等，实现完整GPT。介绍Transformer结构，讲解位置编码、单头自注意力等机制的代码实现，还阐述后续层的用途、参数调整及训练效果，最后提及模型优化方向。
Runway Gen-4.5刷屏发布，把重量、尘土和光影都做对了，网友：颠覆
Runway Gen-4.5突袭发布，获“视频生成AGI时刻”评价，在Artificial Analysis测试中拿下SOTA。它能精准执行复杂指令，物理还原与视觉精准度强，官方将逐步开放使用权限，还直言其存在因果推理等局限。
4倍速吊打Cursor新模型！英伟达数千GB200堆出的SWE-1.5，圆了Devin的梦！实测被曝性能“滑铁卢”？
Cognition推出全新AI编码模型SWE-1.5，专为软件工程任务设计，运行速度快，在基准测试中成绩良好。它基于GB200芯片训练，有定制编码环境，开发有新战略，还与Cursor新模型Composer对比引发关注。
华人团队终结Token危机：扩散模型数据潜力超自回归三倍
最新研究发现，token数量受限下，扩散语言模型数据潜力超自回归模型三倍多。一个1B参数的扩散模型用1B tokens训练，在基准测试取得不错准确率，且未现性能饱和。
720美元套出A社死藏的Opus原始思维链，还是Haiku泄露的，GPT/Gemini也中招
研究人员发现，将大模型返回的加密推理块扔给同厂小模型让其复述，就能破解大模型隐藏的思维链。如Anthropic、OpenAI、Google的模型均中招，还会带来隐私、安全等风险，虽已打补丁，但仍有难题。
GPT-5.5全球首破！0源码盲写程序，编程AI进入新纪元
全网AI交白卷的ProgramBench编程基准，被GPT-5.5首破。它能0源码盲写程序，同一题用C和Python两种解法通过测试。相比之下，Opus 4.7表现不佳。这揭示推理算力成编程AI核心变量。
一副手套，干翻硅谷炫技派！中国队杀入战场，狂卷100万小时数据
硅谷具身智能玩家为数据发愁，中国灵初智能另辟蹊径，用数据手套采集工人操作数据，成本低且数据泛化性强。其专注物流细分场景，2026年收敛资源做深现有场景，目标推100万小时数据训练模型。
DeepSeek V4即将发布？先读懂梁文峰这份86页的技术底牌
据报道，DeepSeek计划2月中旬发布V4，此前将R1论文从22页扩充到86页。新增内容涵盖训练细节、成本、数据配方等，还公开失败案例、基础设施和安全报告，或为V4铺路并回应质疑。
dLLM的「Free Lunch」！浙大&蚂蚁利用中间结果显著提升扩散语言模型
近年来，扩散大语言模型（dLLM）成为文本生成新势力，生成效率高。但现有解码策略忽视中间迭代信息，研究团队观察到「先对后错」现象，提出 TCV 和 TCR 方法，显著提升模型在推理任务表现。
The Batch: 865 | 机器人外科医生的切割与夹闭
约翰·霍普金斯大学等团队开发Hierarchical Surgical Robot Transformer（SRT - H），结合两个transformer模型，通过模仿学习训练，用达芬奇机器人完成胆囊切除关键步骤。虽在体外组织测试表现好，但应对人体手术仍有挑战。