「FP4训练」共找到 3427 篇相关文章
递归神经网络的复兴：Mixture-of-Recursions
Google DeepMind研究者设计的语言模型，能判断关键单词并进行深度递归计算，通过轻量级“路由器”节省计算资源，在同等训练成本下表现显著优于传统模型，文中还提及其他解决动态算力分配问题的思路。
老黄投了个120亿美元最贵种子轮！但小钱：H20中国开卖，市值一夜暴涨1600亿美元
OpenAI前CTO Mira创立的Thinking Machines Lab获约20亿美元融资，估值达120亿美元，英伟达领投。同时，英伟达老黄宣布H20恢复中国销售，推出RTX Pro新显卡，市值一夜涨1600亿美元。
基于闪电注意力机制，创新高效开源大模型
传统Transformer架构处理长文本和复杂推理任务有效率瓶颈，多数领先模型仍依赖传统注意力设计。MiniMax开源基于闪电注意力机制的专家混合模型Minimax，从架构、创新模块、训练框架等多方面优化，表现突出。
LLM「拒绝回答」难题有救了！最新研究让AI学会人情世故 | COLM'25
最新研究发现模型规模和通用语言能力与处理敏感内容判断能力无直接关联，开源模型表现不错。通过提出的训练方法，在非推理和推理型模型上缓解过度拒绝问题，提升AI实用性和可靠性。
爬网页要收费了！AI应用成本再度增高！Cloudflare宣布新实验
Cloudflare宣布“按爬取付费”实验，新注册服务网站默认阻止AI爬虫，爬虫需附带支付意图才能访问。此举旨在让内容创作者从AI公司获利，不过也会使AI训练成本上升，还可能引发连锁反应。
苹果出手！改进GRPO，让dLLM也能高效强化学习
苹果研究团队针对扩散语言模型（dLLM）在编码任务中表现不明的问题，基于7B级代码生成MDM DiffuCoder展开研究，定制优化GRPO提出coupled - GRPO算法，填补开源dLLM训练和推理机制空白。
13年死磕一个真理，这家中国AI黑马冲刺IPO
云知声深耕AI 13年，即将冲刺港交所IPO。它从单一语音识别发展为全栈AGI方案商，以智慧生活和智能医疗双轮驱动，营收稳健增长。其坚持技术创新，构建全栈自研体系，有望在AI时代持续领跑。
全球首次，Transformer「混血」速度狂飙65倍！英伟达已下注
康奈尔、CMU等机构研究者提出「混合体」Eso - LM，融合自回归和离散扩散模型范式。它引入KV缓存机制，推理速度相比标准MDM提升65倍，在速度与质量平衡上超越BD3 - LM，引发AI领域关注，英伟达或押注此方向。
微软等提出「模型链」新范式，与Transformer性能相当，扩展性灵活性更好
随着大语言模型发展，扩展 Transformer 架构成趋势，但参数规模增长带来训练负担。微软等研究者提出 CoR 概念，构建模型链学习范式，应用于语言模型得 CoLM 系列，实验显示其性能相当且扩展性、灵活性更好。
DeepSeek R1 迎来小更新大升级，性能直逼 OpenAI o3！
昨日，DeepSeek 发布 R1 大模型最新版本 DeepSeek - R1 - 0528 并开启公测。虽官方未附详细技术说明，但用户反馈推理和输出有改进，也有性能方面的不同看法，其在基准测试表现佳。