「FP8训练」共找到 2627 篇相关文章
AI Infra 工程师们如何应对大模型流水线里的“暗涌”？
InfoQ《极客有约》X AICon 直播，邀请华为昇腾专家 ZOMI 酱、蚂蚁集团马介悦和 SGLang 尹良升探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代策略、推理部署优化、开源项目挑战等内容。
告别微调时代：拖拽式LLMs实现12000倍加速适配，输入描述，秒级定制LLM，效果、速度全面超越
传统高效微调技术成大规模部署瓶颈，论文提出Drag-and-Drop LLMs (DnD)，仅需输入目标任务未标注提示，即可秒级生成适配的LoRA权重，实现LLM秒级免训练适配，效率、性能和泛化性上均有突破。
Tool-Star：赋予大模型结合多工具推理的能力
文章提出Tool - Star框架，旨在解决大模型多工具协作推理难题。它从数据端到训练流程优化，让模型调用多种工具，在复杂计算和知识型推理任务表现卓越，还探讨了未来多模态及多工具扩展方向。
AI仅凭“自信”学会推理，浙大校友复刻DeepSeek长思维链涌现，强化学习无需外部奖励信号
UC Berkeley团队提出新训练方法Intuitor，大模型无需接触真实答案，仅优化自身信心就能学会复杂推理。该方法无需外部奖励信号或标注数据，用模型自身置信程度作内在奖励信号，在多任务表现良好。
Qwen团队发布长上下文Reasoning模型QwenLong-L1，超越o3-mini
Qwen团队发布长上下文Reasoning模型QwenLong - L1。当前大模型处理长文本有训练效率低、过程不稳定难题。QwenLong - L1用分阶段强化学习等方法，实验中超越o3 - mini、比肩Claude，还在案例表现出色。
首次，AI下棋不再是「黑盒」！
上海AI Lab发布升级版大模型「书生·思客InternThinker」，首度打破围棋AI推理黑盒，能用自然语言解释落子逻辑，具备职业3 - 5段棋力。依托创新训练平台InternBootcamp，它在多任务表现出色，且相关技术有系列创新突破。
打破56年数学铁律！谷歌AlphaEvolve自我进化实现算法效率狂飙，堪比AlphaGo“神之一手”
谷歌DeepMind联合顶尖科学家打造「通用科学人工智能」AlphaEvolve，打破矩阵乘法领域56年效率基准，将4x4矩阵乘法标量乘法次数从49次降至48次，还在谷歌内部加速了运算、缩短训练时间。文中介绍其原理与技术。
Switch 2芯片细节曝光！英伟达专门定制支持DLSS，网友：掌机模式相当于PS4
数毛社消息，Switch 2采用英伟达真·定制版芯片，含8核CPU和12GB LPDDR5X内存，GPU基于Ampere架构，支持DLSS和光线追踪。不过配置也引吐槽，如掌机性能降、续航或不长等。
The Batch：820 | Qwen3 向 DeepSeek-R1 发起挑战
阿里巴巴发布八个大型语言模型权重，含两个 MoE 架构和六个稠密模型。预训练数据达 36 万亿 token，支持 119 种语言及方言。测试中 Qwen3 家族表现出色，或终结 DeepSeek - R1 霸主地位，设计用于智能体系统。
AI引爆全球失业潮，美国大学生毕业即失业！全球大厂联手裁员上万
新智元报道，AI已引爆全球失业潮，多邻国等全球五家大企业因AI裁员上万人，美国大学毕业生失业率高达5.8%。企业为削减成本用AI取代人力，这不仅是技术革新，更是职场地震，改变了劳动力市场。