「开源数据集」共找到 5057 篇相关文章
200行python代码实现从Bigram模型到LLM
本文从`babygpt_v1.py`出发，逐步加入self-attention机制、position嵌入等，实现完整GPT。介绍Transformer结构，讲解位置编码、单头自注意力等机制的代码实现，还阐述后续层的用途、参数调整及训练效果，最后提及模型优化方向。
四大顶尖模型对决！6000 字测评带你看Deepseek R1有多强
昨天 Deepseek-R1 0528 正式开源，作者让它与 Claude Opus 4、Sonnet 4、Gemini 2.5 Pro 在六个前端开发任务中对决。结果显示，Deepseek-R1 在多数测试表现出色，且价格优势明显。
还得是华为！Pangu Ultra MoE架构：不用GPU，你也可以这样训练准万亿MoE大模型
华为盘古团队发布Pangu Ultra MoE模型架构与训练方法的中文技术报告。该模型全流程在昇腾NPU上训练，团队在架构和训练方法创新，实现准万亿MoE模型训练，还在多方面优化提升性能。
一文讲透程序编排的核心方式：从表达式语言到并行化实践
文章围绕程序编排展开，介绍单语句编排、类编排、流程编排、并行化编排等核心方式，分析多种编排框架特点及适用场景，还提及Lindorm泛时序数据解决方案，为开发者提供编排参考。
SIGGRAPH 2025 | CLR-Wire：曲线框可生成？可交互？深大VCC带你见证魔法
深圳大学黄惠团队推出 CLR - Wire 方法，将复杂三维曲线框结构编码到连续潜空间，解决传统难题，能实现高效生成与平滑插值，相关代码已开源，在多领域有应用前景。
Agent 元年，小厂碎步快跑反超
2025 年被视为 Agent 元年，AI 从“助手”走向“员工”。飞猪“问一问”出圈，虽小厂在模型、技术上不占优，但 AI Agent 落地门槛降低，小厂抓住场景和体验，或在 AI 时代弯道超车。
两岁的Llama，最初的14位作者已跑了11个！Mistral成最大赢家
Meta 开源 Llama 模型改变大模型格局，但短短两年，14 位初创作者 11 人离职。Mistral 受益最大，由两位核心架构师创立，其模型与 Meta 竞争。Meta 面临留才挑战，领先优势消退。
ParScale：一种全新的大模型Scaling Law
文章提出并行扩展（ParScale）路线，在不增模型参数下，通过引入并行流提升性能。新扩展定律打破传统范式，两阶段后训练策略降成本，还适用于边缘设备，研究仍在进行。
刚刚，老黄官宣在中国台北建AI超算！
英伟达CEO黄仁勋在Computex 2025演讲官宣，将在中国台湾建首台世界级巨型AI超算及新总部，还推出GB300等新品，介绍NVLink Fusion等亮点，展望AI发展及通用机器人市场。
通过查看GPU Assembly分析CUDA程序
文章是关于通过分析SASS代码提高内存受限CUDA程序性能的笔记。以向量复制程序为例，对比普通和向量化版本，通过查看SASS代码，解释向量化版本性能更快的原因是加载/存储数据量更大、启动块数更少。