「低精度计算」共找到 1790 篇相关文章
时空压缩！剑桥大学提出注意力机制MTLA：推理加速5倍，显存减至1/8
在大语言模型发展中，Transformer自注意力机制有计算复杂度问题且KV缓存成推理瓶颈。剑桥大学提出MTLA，结合时空压缩策略，提升推理效率，在多任务中表现出色，代码已开源。
大模型 Token 究竟是啥：图解大模型Token
文章详细解释大模型Token概念，指出分词器会把文字切成Token，不同分词器切分结果不同。还介绍分词器的分词方法，通过统计文字出现频率打包成Token并编号，不同模型切分结果有差异。
中学生就能看懂：从零开始理解LLM内部原理【九】｜ 层归一化：神经网络的稳定器
本文是系列文章第九篇，介绍了神经网络中的层归一化。先回顾标准差、标准分概念，指出其可使差异可控稳定。接着说明层归一化将原思想用在神经网络，还加入可学习参数，最后总结其作用与应用位置。
四大顶尖模型对决！6000 字测评带你看Deepseek R1有多强
昨天 Deepseek-R1 0528 正式开源，作者让它与 Claude Opus 4、Sonnet 4、Gemini 2.5 Pro 在六个前端开发任务中对决。结果显示，Deepseek-R1 在多数测试表现出色，且价格优势明显。
还得是华为！Pangu Ultra MoE架构：不用GPU，你也可以这样训练准万亿MoE大模型
华为盘古团队发布Pangu Ultra MoE模型架构与训练方法的中文技术报告。该模型全流程在昇腾NPU上训练，团队在架构和训练方法创新，实现准万亿MoE模型训练，还在多方面优化提升性能。
Arc浏览器创始人复盘：为何放弃百万用户及产品，押注AI浏览器？
Arc浏览器曾是新星，有上百万高粘性用户。2024年10月创始人透露将开发新AI-Native浏览器Dia，Arc进入维护状态。创始人复盘Arc错误，阐述转型原因，认为传统浏览器将消亡，Dia有机会成桌面端主流AI界面。
英伟达发布统一GPU开发平台DGX Cloud Lepton
英伟达发布专为开发者设计的AI平台DGX Cloud Lepton，可汇聚全球GPU计算资源，提供即时访问和无缝部署能力。它功能强大，支持多环境部署，提供统一体验，还有庞大合作网络。
LLM又曝致命缺陷：根本不会看时钟！博士惊呆，准确率不及50%
最新研究揭示AI存在认知缺陷，读取时钟准确率仅38.7%，判断日历日期准确率26.3%。研究者构建测试集考察MLLM能力，虽部分模型有亮点，但整体表现不佳，凸显训练数据和推理方式改进需求。
一个被低估的Markdown神器！
本文是开源君分享的一款被低估的开源AI原生Markdown编辑器OpenKnowledge，它兼顾美观编辑体验、AI协作、本地存储，满足个人和团队知识管理需求，目前GitHub已收获4.1k Star。
特斯拉为什么非要造Cybercab？｜甲子光年
北京时间9月4日，特斯拉低调发布Cybercab，已进入奥斯汀Robotaxi运营体系。它专为Robotaxi打造，无方向盘与踏板。文章探讨特斯拉造它的原因，涉及成本、生产等，也指出业务面临财务和法规问题。