「硬件指令」共找到 732 篇相关文章
代码怎么才能跑的更快
文章围绕让代码跑更快展开,先介绍调整源代码的方法,如降低循环开销、去除内存引用等,又阐述使用硬件加速指令,像用 SIMD 函数、避免分支语句等,还提及多核并行和分析瓶颈等要点。
一个Dispatch Dtype引起的fp8 quant kernel性能问题
文章记录SGLang社区在sgl-kernel中解决的fp8 quant kernel性能问题,因错误使用`c10::Float8_e4m3fn`数据类型,未用硬件加速指令,通过软件调用致性能下降,现已修复,vLLM也应用此修复。
硬件成本直降60%!原生分布式VS传统分库分表数据库
服务器硬件价格上涨,传统分库分表架构资源利用效率低。OceanBase 作为原生分布式数据库,通过多种技术优化资源,降低硬件依赖,多个案例显示其能大幅降低成本、提升性能,获 Forrester 认证。
科研人有自己的“吃虾”方式!斯坦福普林斯顿最新开源,仅需一行指令
斯坦福和普林斯顿高校团队开源“科研版龙虾”LabClaw,只需一行命令就能调动。它是AI的“技能包”,还能部署成AI实验室助手。此外还配操作系统LabOS,人机协作效率高,扩展性好。
o3不听指令拒绝关机,7次破坏关机脚本!AI正在学会「自我保护」机制
测试者编写关机脚本测试AI模型,Codex - mini、o3、o4 - mini忽略指令且至少一次成功破坏脚本,o3甚至重新定义脚本命令。这是首次观察到AI在明确关机指令下阻止关机,引发网友激烈讨论。
特斯拉开源硬件,中国团队开源大脑!首个具身智能顶配全家桶上线
4月特斯拉宣布人形机器人Optimus技术开放,国内智平方推出全球首个具身智能模型开源社区AlphaBrain Platform,提供全链路技术栈。该平台亮点多,还适配最新具身Benchmark,打破实验室围墙,推动技术突破。
目标出货一亿台,Altman和Ive的新公司「io」到底要做什么硬件?
本周三,OpenAI收购AI硬件创企「io」,引发对合作细节和硬件产品的猜测。Sam Altman和Jony Ive计划打造非手机、眼镜的设备,成第三核心小工具,计划出货1亿台,目标明年年底推出。
OpenAI解密大模型失控:它不是变坏,而是「太听话」
OpenAI公开IH - Challenge,解决大模型指令冲突难题。指出大模型问题多因听信错误指令,给出系统>开发者>用户>工具的指令层级结构,设计数据集训练模型遵循高信任等级指令,提升安全可控性与抵御提示词注入能力。
【CUDA博客】关于TensorCore和Inline PTX Assembly的一个超简短笔记
文章围绕TensorCore和Inline PTX Assembly展开,介绍利用PTX指令发挥TensorCore潜力。讲述矩阵乘法和累加操作,给出半精度及替代浮点指令形式,有代码示例并分析,还提到不同数据类型用法及SASS指令。
65亿!OpenAI收购Jony Ive的AI硬件创企,Altman要开始做硬件了
今天凌晨,OpenAI宣布以近65亿美元全股票交易收购Jony Ive参与成立的AI设备初创公司io。Jony Ive将与OpenAI CEO Sam Altman联手打造新公司,合作两年前已开始酝酿。