「激活值内存」共找到 637 篇相关文章
不只是行业 Know-How,营销类 Agent 工程化落地难题有何解?|对话瓴羊副总裁、友盟+总经理毛波
今年是“AI Agent 元年”,营销 Agent 热门但有难题待解。InfoQ 对话瓴羊副总裁毛波,探讨营销 Agent 落地困境、工程化挑战、未来护城河及发展机会,友盟+推出产品并提供方案助力解决问题。
FlashAttention-4震撼来袭,原生支持Blackwell GPU,英伟达的护城河更深了?
在 Hot Chips 2025 上,TogetherAI 首席科学家 Tri Dao 公布 FlashAttention-4,其在 Backwell 上比英伟达 cuDNN 库中的注意力核实现快 22%,还实现两项算法改进。该技术一直迭代升级,提升了注意力计算效率。
SGLang 2025-8月性能优化技巧记录
本笔记记录2025年8月SGLang框架性能优化实践,涉及GPT - OSS、DeepSeek - V3等模型,采用allreduce_add_rmsnorm、量化、通信、内核融合等优化技术,在性能提升、减少延迟等方面效果显著。
Lovable 完成 2 亿美金融资,Newsletter 产品 Beehiiv 年营收突破 3000 万美金
Vibe Coding 产品 Lovable 完成 2 亿美元 A 轮融资,估值 18 亿美元。其活跃用户 230 万,付费用户超 18 万,ARR 近 9000 万美元。Newsletter 产品 Beehiiv 年营收突破 3000 万美元,创始人分享 20 条创业思考。
Thinking Machines Lab获20亿美元,没发布任何产品
前OpenAI首席技术官Mira Murati创立的Thinking Machines Lab获20亿美元种子轮融资,对该保密公司估值达120亿美元。投资者众多,公司将在未来几个月推出含开源组件的首款产品,还会分享科研成果。
11Labs 增长负责人:搞营销要学着做视频,但创始人出镜会有点自恋
AI语音独角兽ElevenLabs增长迅猛,估值超30亿美元。其增长负责人Luke Harries分享独特策略,如分业务单元管理、重视视频营销、多渠道推广等,还给出团队搭建、产品发布等实用建议。
拒掉字节、谷歌橄榄枝,Meta 离职大佬田渊栋官宣自立门户!苏妈老黄追着投
Meta离职大佬田渊栋官宣创业,新公司Recursive Superintelligence首轮融资6.5亿美元,估值46.5亿美元。其团队堪称“硅谷AI梦之队”,想让AI具备“自我进化能力”,目标是扩展到多领域。
蚂蚁开源 x SGLang Meetup技术回放解读之基于CUTE DSL的通信计算重叠算子实践
文章是对蚂蚁开源x SGLang Meetup分享的回放解读,聚焦基于CuTe DSL的通信 - 计算重叠内核实践。探讨不同通信计算重叠方案,分析在Blackwell上做GEMM + AllReduce融合算子的优势,介绍multimem指令等,还提及接入模型执行路径和性能结果。
大规模替换数据库序列,保障百余个服务平稳运行
Coupang从关系型数据库迁移到NoSQL时,为解决序列替换问题,自研了专用解决方案。该方案采用双层缓存与滑动窗口预填充机制,以DynamoDB为数据源,让百余个服务无需重写代码完成迁移,性能和成本表现佳。
微软介绍了 TypeScript 7 的更新
微软分享 TypeScript 7 最新进展,披露用 Go 重写编译器计划,构建速度最高提 10 倍,降低内存占用。默认启用严格模式,是不兼容变更。开发者看法不一,有人赞性能提升,有人忧工具迁移。