「前缀主导陷阱」共找到 191 篇相关文章
sgl-kernel MoE Align Block Size Kernel 优化过程解析
文章记录SGLang的sgl-kernel中优化 `moe_align_kernel.cu` 的过程。MoE模型的 `moe_align_block_size` kernel从最初的baseline版本经多次迭代,包括加向量化padding、用Blelloch Scan并行化前缀和、用Warp Scan减少同步开销等。
Meta AI部门大地震!小扎急派心腹干将「救火」
Meta AI部门再现人事大地震,前元宇宙负责人Vishal Shah转岗任人工智能产品副总裁,协助Nat Friedman整合AI产品战略。此次调整与Friedman近期管理表现相关,Shah经验丰富或助Meta AI更稳健发展。
AI 的终极护城河不是模型
硅谷风投投资人Jaya Gupta指出,当AI领域趋同,产品易被复制时,公司组织形态才是难以复制的护城河。如OpenAI、Palantir围绕新型工作创造新型机构,吸引特定人才。公司应匹配叙事与组织形态,选人要注重结构认可。
“每给 Claude Code 提一个请求,我就点上一根烟,放松下”
OpenFGA 核心维护者 Siddhant Khare 写博客吐槽使用 AI 编程的‘疲惫感’,指出 AI 带来职业疲惫却被行业回避,还分析了原因,如任务量膨胀、角色转变等,并给出应对建议,引发工程师共鸣。
Nature重磅预警:ChatGPT切走教育主权,学生大脑或将重构?
AI正以“教育革命”之名占领全球校园,如清华新生用AI助理报到,加州州立大学接入ChatGPT Edu,Google向学生免费开放Gemini。但这悄悄重写权力格局,让教育主权面临挑战,引发诸多思考。
硅谷今夜集体失眠!互联网女皇340页AI报告猛料刷屏,大佬熬夜头秃
互联网女皇Mary Meeker暌违六年,发布340页《AI趋势报告2025》。报告指出AI使用成本下降,推理成本暴跌,中国模型以低成本崛起,中美在AI模型争霸,还提及ChatGPT的辉煌与未来潜在挑战等。
蒸馏效果起飞!DOPD破解「特权幻觉」,让在线策略蒸馏更有效
近期,新加坡国立大学等团队提出 DOPD 法解「特权幻觉」难题。该法依 token 情况动态蒸馏,实验表明其在 LLM、VLM 蒸馏效果好,鲁棒性强,训练稳定,为在线策略蒸馏提供新思路。
AI“租人”平台一夜爆火:时薪3500、2.4万用户抢着“卖身”,专家:警惕劣币驱逐良币
AI社交网络Moltbook引发恐慌后,RentAHuman.ai网站上线将AI雇佣人类变为商业系统。上线一天访问量破50万,超2.4万用户“挂牌待租”,引发热议与担忧,专家也给出相关判断。
CTO 焦虑自白:为什么我们有了 AI 博士生,但员工却越干越累?| 直播预告
本次直播由值得买、飞猪与彩讯多位专家,从 CTO 视角实战复盘 AI 落地与工程化挑战,探讨 AI 提效 ROI 临界点、能力错配、数据投喂等问题,还会深度复盘模型落地困局等。
谷歌杀疯!百万token神器免费开源,Claude和Codex都顶不住了?
谷歌开源免费AI编程工具Gemini CLI,权限拉满,有百万token上下文、千次调用额度,打通VS Code与终端。它与OpenAI、Anthropic竞争,功能不止写代码,还支持多通用任务,谷歌这次来真的!