「Transformer专用芯片」共找到 916 篇相关文章
3年手搓ChatGPT！剑桥天才少年在Minecraft游戏中爆火回归
MC大神sammyuri时隔3年发布新作，在MC中复刻ChatGPT，名为CraftGPT。虽参数量小，但用Transformer架构，能和用户交互。模型训练用Python和小数据集，视频存档公布助理解原理。
OpenAI前VP联手DeepMind大神创业，目标打造AI科学家，a16z领投3亿美元
OpenAI前VP William Fedus和Google DeepMind大神Ekin Dogus Cubuk联手创立Periodic Labs，目标打造AI科学家。公司核心理念是AI科学家与自动化实验室结合，从物理科学起步，已获a16z领投3亿美元融资。
不靠英伟达，中科院在国产 GPU 上跑通 76B 类脑大模型
过去大模型依赖Transformer和NVIDIA GPU体系，硬件自主化难。中科院团队提出类脑大模型SpikingBrain，在超长文本处理上百倍加速，在国产MetaX GPU平台稳定训练76B模型，开辟新道路。
除了内卷和价格战，国产MCU还剩下什么？
国产MCU市场竞争激烈，中低端价格战严重，但仍有企业突围。本文介绍第七届“芯师爷 - 硬核芯年度评选活动”参评的MCU产品，如极海、芯驰等企业的芯片，各有特点与应用场景。
高性能计算群星闪耀时
文章介绍高性能计算（HPC）对大模型的重要性，回顾中国HPC发展历程，讲述清华高性能所郑纬民等学者贡献，还提及团队在大模型训练、推理、存储等方面成果，以及类脑计算等新探索。
大模型如何推理？斯坦福CS25重要一课，DeepMind首席科学家主讲
Google DeepMind首席科学家Denny Zhou在斯坦福CS25课程分享大语言模型推理见解，总结了四个关键点，阐述推理机制、优化方法及最新进展，还介绍多种推理方法并比较其优劣。
1.5B参数撬动“吉卜力级”全能体验，国产开源之光多模态统一模型，来了
GPT-4o引发“吉卜力”风暴，改变AIGC范式。昆仑万维开源多模态统一模型Skywork UniPic，1.5B参数就能接近甚至超越十几亿参数专用模型，可在消费级显卡运行，还公开全套资源。
免剪辑直出！AI生成多角色同框对话视频，动态路由精准绑定音频
Bind-Your-Avatar基于扩散Transformer框架，通过细粒度嵌入路由将语音与角色绑定，实现精准音画同步，还引入数据集MTCC和基准测试，实验显示其在身份保真和音画同步上优于现有方法。
一文读懂深度表格数据表示学习 | 南京大学
南京大学团队系统介绍表格表示学习领域，将现有方法按泛化能力分三类，比较DNN与树模型优劣，剖析核心挑战，探讨扩展方向及数据集评估策略，旨在建跨数据集稳健评估体系。
谢赛宁等推出统一多模态模型！替代VAE实现图像理解/生成双SOTA，代码权重数据集全开源
谢赛宁等团队推出统一多模态模型Blip3 - o，用扩散Transformer生成CLIP图像特征，采用顺序预训练策略。对比多种设计方案，确定CLIP + Flow Matching最佳，模型在多任务测试表现卓越且全开源。