「fp8支持」共找到 487 篇相关文章
78%主创跳槽!Llama 14名作者只剩3人,Meta最强开源模型团队大溃散引争议
据外媒消息,Meta面临严重人才流失,Llama模型14位核心作者中11位离职,或自立门户或跳槽。同时,Meta大模型研发进度缓慢,旗舰模型屡次延期,一边裁员一边押注AI,且寻求资金支持遇冷。
不玩PPT拼实战!中国「具身军团」要在上海动真格了
即将于12月12日举行的「GDPS 2025全球开发者先锋大会」,代表上海具身智能生态全面跃迁。上海为具身智能产业提供场景、算力等支持,企业完成从概念到工业级成熟的蜕变,大赛将进行多赛道「实弹演习」。
又上Trending,这个项目赋予AI灵性,可以和你一起玩游戏看电视!
项目 AIRI 可让用户轻松拥有数字生命。与其他项目不同,它支持多种 Web 技术,能在现代浏览器和设备运行,还能玩游戏、看视频。目前已完成部分基础功能,支持众多 LLM API 服务,还衍生出多个子项目。
求稳的安全IP,安谋科技如何守正出奇?|甲子光年
12月24日,安谋科技推出新一代SPU IP——“山海” S30FP/S30P,构建覆盖芯片底层至应用层的一栈式安全防护体系,有抗物理攻击强等五大亮点,能适配不同场景安全需求,完善产品布局。
GitHub上已突破5.1k stars!这是真正被开发者认可的 AI Agent平台,AI开发者必看,如何用它实现生产力逆袭?
TaskingAI是AI - native应用开发平台,整合多模块提供一站式BaaS体验,简化AI应用全流程。它支持多模型,有检索、工具插件等功能,适用于客服、销售等场景,还对比同类项目展现优势。
Meta「内战」升级:做「神一般的AI」,还是守住「社交帝国」?
随着扎克伯格将战略重心转向AI,Meta内部面临挑战。顶尖AI团队与核心业务部门在资源分配等方面有摩擦,冲突核心是AI发展优先事项。为支持AI,元宇宙部门面临削减,Meta能否打破科技巨头“诅咒”待察。
打穿 AI 智商测试!GPT-6 Astra 的符号世界模型,是突破还是钞能力刷分?
OpenAI的GPT-6 Astra亮相,在ARC - AGI - 3测试成绩逼近100%,远超GPT - 5.6 Sol。它生成的符号世界模型被认为是AI迈向高级推理必经之路。不过出题人指出其靠Harness加持,离AGI还远。
单机H200最快DeepSeek V3和R1推理系统优化秘籍
作者从开源技术分享角度,盘点SGLang对单机规模推理的大量工程优化技巧,涉及FP8 Block GEMM演进、FusedMoE模块优化、Attention Backend优化等,助于提升DeepSeek V3/R1在单机H200上的推理性能。
Sea AI Lab 揭秘:你费尽心力调的 LLM 一直在崩溃?罪魁祸首可能只是一个参数:BF16
Sea AI Lab 和新加坡国立大学研究指出,强化学习微调中训练不稳定和性能瓶颈,根源是数值精度 BF16。其低精度造成“训练 - 推理不匹配”,使训练易失败。将精度切换到 FP16 可解决问题,提升模型表现。
H-1B正在筛掉「下一个英伟达」?
美国政府公布H-1B签证新规,将新申请费用提至10万美元,还提高工资门槛。英伟达CEO黄仁勋支持但担忧,认为费用或抑制初创企业、削弱美对人才吸引力,也有教授反对新规。