「FP8混合精度训练」共找到 464 篇相关文章
登上Nature子刊！Meta脑机接口重大阶段性进展，超高实时解码准确率
Meta在非侵入式脑机接口研究取得重大进展，Brain2Qwerty v2能从原始脑信号实时解码句子，平均词准确率达61%，最优78%。研究团队开源训练代码，数据集也同步开放，但应用于临床仍面临精度和设备限制。
不换GPU，性能飙升2.8倍！英伟达用软件暴打摩尔定律
2026年1月8日，英伟达官网披露，基于Blackwell架构的推理软件栈升级，让混合专家模型（MoE）推理效率迎「阶跃式」突破，单GPU吞吐飙升2.8倍，显著降低推理成本。其通过软件针对性升级发挥硬件潜力，还进行多项优化。
告别大模型“失忆”！人大开源MemSifter：轻量代理先思考再回忆，搞定长时记忆
当前大语言模型在长周期任务中，长时持久记忆管理陷入“精度不够”和“成本太高”的两难困境。中国人民大学团队提出MemSifter框架，将记忆检索工作外包给轻量级代理模型，在8个权威测试中超越现有方案，且已开源。
顶级邪修再战 Nano Banana Pro ，超多玩法，太猛了这玩意！
谷歌发布 Nano Banana Pro 模型，将图片模型能力推向顶峰，支持中文。它能生成准确视觉内容、多语言文本，可混合多元素，支持多分辨率。经测试，其各方面表现出色，应用场景丰富，版权限制宽松，三方应用和谷歌官方均可使用。
2.4万亿参数原生全模态，文心5.0一手实测来了
文心5.0正式发布，主打原生全模态，支持全模态输入和输出。官方测试显示其多维度表现突出，在LMArena文本排行榜并列全球第二。实测其理解精细、能捕捉细节，技术上采用自回归统一结构和超大规模混合专家架构。
音频全能王炸！小米MiMo-Audio开源，力压Gemini/GPT-4o！
小米团队开源通用音频大模型MiMo-Audio，集多种功能于一身，支持7国语言零样本克隆和中英混合合成。首包延迟低，效果自然稳定。在多个基准测试中表现优于Gemini-2.5-Flash和GPT-4o-Audio。
谷歌开源结构化信息提取神器！4K+ Star，精准定位+交互式可视化！
在医疗、法律等领域，手动从非结构化文本提取信息费力，传统NLP工具需复杂训练。谷歌开源的LangExtract是高精度信息抽取Python库，能自动提取结构化信息，有精确源定位等功能，还给出使用示例和典型场景。
突破一亿Token极限：EverMind提出MSA架构，实现大模型高效端到端长时记忆
机器之心发布文章介绍，大模型长期记忆能力受限于上下文长度。《MSA: Memory Sparse Attention for Efficient End-to-End Memory Model Scaling to 100M Tokens》提出MSA架构，突破扩展性、精度和效率的不可能三角，实现100M长度的大模型长时记忆框架。
特斯拉OpenAI数据路线遇挫！8千平具身「兵工厂」+ego众包狂飙
2024年特斯拉和OpenAI在机器人数据采集上路线不同，前者重资产高精度，后者低成本众包。当前数据采集方式各有优劣，难以兼顾质量与成本。数据堂提出分层采集架构，通过场内工厂化和场外众包化双轮驱动解决难题。
重磅！OpenAI时隔五年再发布开源模型gpt-oss：开源SOTA，可在16g笔记本运行
谷歌推出Genie 3后，OpenAI宣布发布开源推理模型gpt-oss，有gpt-oss-120b和gpt-oss-20b两个型号，采用混合专家架构和4位量化方案，能快速推理，原生支持128k上下文长度。文章还介绍了模型表现、训练等情况。