「M2.7」共找到 2440 篇相关文章
一个Dispatch Dtype引起的fp8 quant kernel性能问题
文章记录SGLang社区在sgl-kernel中解决的fp8 quant kernel性能问题,因错误使用`c10::Float8_e4m3fn`数据类型,未用硬件加速指令,通过软件调用致性能下降,现已修复,vLLM也应用此修复。
王小川:医疗行业对大模型有三大刚性要求,但通用模型一条都不达标
5月22日百川智能展示医疗大模型Baichuan - M4与AI家庭医生「百小医」。王小川指出通用大模型用于医疗有问题,医疗对大模型有低幻觉、强循证、会提问的刚性要求,而通用模型不达标。Baichuan - M4表现出色,百小医也有独特定位和优势,且与三家顶尖医院合作成果显著。
CuteDSL-2: 基本操作
文章为Cute - DSL第二篇,整理官方notebook介绍基本操作。涵盖数据类型、张量、结构体等基本操作,还介绍了控制流(For、If - Else、While循环等)及TensorSSA的相关操作,如LD/ST、运算、切片等。
Prompt三则(2)
文章给出三则Prompt。一是找行业‘老司机’俯瞰行业,设定前辈身份,强调实用指引;二是穿透语言看‘内核特质’,如剥洋葱般挖掘;三是将一句话‘画面化’,让抽象概念成感官盛宴。
2w+ star,和claude对着干,牛皮!
Anthropic 给 Claude 生成文字添加水印,方式独特且难去除。`watermarks-remover` 项目应运而生,针对不同水印机制分层处理,兼容多格式文件,有多种安装使用方式,还明确告知能力边界。
5.2万星项目Ghostty逃离GitHub!
广受欢迎的开源终端Ghostty将离开GitHub,其创造者Mitchell Hashimoto称GitHub故障频发,严重妨碍工作。此事引发开发者共鸣,有人剖析原因指向运营策略和AI自动化泛滥,也让其他开发者心生去意。
分享2篇OpenClaw最新Skill论文~
OpenClaw作为最大开源Agent框架,其Skill生态安全受关注。分享两篇论文,《Clawdrain》揭示Token耗尽攻击,《SkillFortify》提出形式化防御框架,从攻防维度揭示OpenClaw深层安全风险。
CUTLASS 笔记 (2):混合精度 GEMM kernel
文章介绍实现支持不同精度的 GEMM 算子,解析精度转换技术细节,还介绍根据 PTX 文档实现自定义 FP8 精度的 GEMM kernel,包括揭开 MMA Atom 面纱、分析 TV 与 MN Layout 等,最后完成精度验证。
kimi 的RL end2end ON LLM
文章分享Kimi Researcher背后技术思考,采用端到端强化学习打造大模型Agent。对比传统方法,凸显其灵活通用、能力上限高、可扩展优势。还展示其在考试榜单成绩提升及智能“涌现”,介绍多应用场景。
内存价格暴涨,美光1秒净赚2.64万元
美国当地时间6月24日盘后,美光公布2026财年第三财季业绩,营收414.6亿美元,净利润282.4亿美元。受AI需求推动,毛利率达84.6%,各业务线收入暴增。美光还签署多项战略协议,预计内存供应紧张将持续到2027年后。