「精度与效率」共找到 7413 篇相关文章
为什么BF16的FlashAttention会把训练「炸掉」？清华首次给出机制解释，用极简改动稳住训练
社区里长期存在的FlashAttention+BF16训练GPT - 2时loss突然爆炸的问题，清华团队论文给出机制解释。指出是特定条件下数值偏置被放大所致，还给出极小修改稳定训练，且在多模型和硬件上验证有效。
AI 智能体界的 npm 来了！Vercel 推出 Skills.sh，欲统一智能体指令集
Vercel 发布开源项目 Skills.sh，为 AI 智能体打造“标准动作库”，让其通过命令行执行可复用操作。它是开放生态，开发者能定义、分享指令。项目获广泛关注，社区认为其实用性强。
刚刚，马斯克收购了马斯克
SpaceX 宣布收购 xAI，合并后公司估值达 1.25 万亿美元。此举旨在打造宏伟创新引擎，将 AI 与航天等技术结合，利用太空资源满足 AI 算力需求，推动人类太空探索与发展。
华为乾崑 all in 启境，开启造车新模式
在华为乾崑生态大会上，启境给出了自己的答案。华为不仅技术赋能启境，还将团队、流程与之深度融合。启境目标是打造不妥协产品，成为‘六边形战士’，其愿景是塑造‘移动智能体’。
马斯克盛赞朱雀三号：能够击败SpaceX猎鹰9号
马斯克在中国民营可回收火箭朱雀三号首飞之际，盛赞其有超越猎鹰9号的潜力，还称中国航天若顺利5年能追上。朱雀三号即将首飞，有望成我国首款可回收运载火箭，采用不锈钢+液氧甲烷配方。
浙大提出Translution：统一Self-attention和Convolution，ViT、GPT架构迎来新一轮性能突破
近日，浙大与新加坡国立大学提出新型深度神经网络基础操作Translution，融合Self - Attention与Convolution优势，实现二者统一。基于它构建的网络在ViT和GPT架构下性能提升，但对算力要求更高。
仅靠5000+样本，全新强化学习范式让30B轻松击败671B的DeepSeek V3
传统强化学习在创意写作领域举步维艰，蚂蚁技术研究院联合浙江大学开源全新强化学习范式Rubicon，构建10000+条「评分标尺」，拓展应用至主观任务领域，其30B模型用5000样本超越671B的DeepSeek V3。
入职OpenAI啦！这是我的AI Research面试指南
作者分享入职OpenAI的面试经历、经验与建议。涵盖身心调适、通用建议、各环节应对技巧等，如提前准备、与朋友模拟、注意设备和细节等，助读者应对AI Research面试。
复旦提出自适应Reasoning方法ARM，“能屈能伸”
复旦提出自适应Reasoning方法ARM，解决LLM‘过思考’问题。ARM内置四种解题策略和三种决策模式，还搭配Ada - GRPO算法，在23个数据集测试中表现出色，省token、提速度且准确率高。
特征工程、模型结构、AIGC——大模型在推荐系统中的3大落地方向｜文末赠书
文章指出大模型在三个层次改变推荐系统，一是改变“知识学习”方式，带来知识输入革命；二是改变“智能体”结构，探索推荐模型新范式；三是创造“新世界”，实现个性化内容生成。还介绍了相应落地应用及对从业者的建议。