搜索：代码生成模型

「代码生成模型」共找到 9387 篇相关文章

200行python代码实现从Bigram模型到LLM

本文从`babygpt_v1.py`出发，逐步加入self-attention机制、position嵌入等，实现完整GPT。介绍Transformer结构，讲解位置编码、单头自注意力等机制的代码实现，还阐述后续层的用途、参数调整及训练效果，最后提及模型优化方向。

卡耐基梅隆大学（CMU）和英伟达研究者提出Multiverse，这是能实现原生并行生成的新型生成模型。它解决了现有并行生成模型缺乏连贯性等问题，通过多方面协同设计构建推理模型，还开源了生态系统。

上海人工智能实验室推出多模态扩散语言模型 Lumina - DiMOO，它基于离散扩散建模，打破多模态任务壁垒。相比传统自回归架构模型，它解决了生成慢、质量受限等问题，在多项评测中夺魁。

最新研究提出合成数据全新分类框架，突破‘生成模型=合成数据’传统认知，涵盖多种方法。还按应用层次划分场景，指出合成数据面临模型坍塌等挑战，正成新型基础设施。

OpenAI草莓命名引发潮流，Recraft小熊猫、谷歌Nano Banana等跟进。现Anycoder平台出现神秘代码模型Carrot（胡萝卜），能力强，网友对其归属猜测不断。

本文深入解读“世界模型”，虽无明确定义，但从目的出发分为表征和生成两类。前者含生物大脑、视觉和语言中心预测；后者有基于规则模拟和数据驱动生成。还探讨LLM是否为世界模型，指出各类模型相辅相成。

华为联合上海交通大学、华中科技大学推出世界模型WordGrow，可生成1800㎡超大室内场景，单卡30分钟跑272㎡。它用数据精准预处理、3D块补全机制、粗到精生成策略填3D场景构建的坑，指标优、速度快。

斯坦福NLP组发布ProgramBench，用200个完整代码库重建任务测试主流大模型，要求模型仅根据可执行文件还原如SQLite等项目完整代码，结果所有模型实际解决率为0%，说明模型更擅模仿代码表面结构。

谷歌新出的Veo 3视频生成模型画质惊艳且能开口说话，但生成体操动作效果差，像“抽象派”。虽存在生成不准问题，但物理效果比其他模型好。有人建议其与专业动捕公司合作，音画一体或成视频模型竞赛标配。

Hugging Face团队开源AI Sheets，这是无代码工具，有类似Excel界面，集成数千开源模型处理数据，支持批量处理、模型比较等，支持本地和在线部署，在多方面优于同类工具。