「端到端加速」共找到 2822 篇相关文章
第二代InfLLM开源，同尺寸快三倍！零参数，可训练稀疏注意力
新智元报道，清华、OpenBMB和哈工大提出零额外参数、训练高效的原生稀疏注意力框架InfLLM-V2，仅用5B长文本词元就能完成训练，相比稠密注意力机制有显著加速，性能接近传统稠密模型。
字节Seed发布PXDesign：蛋白设计效率提升十倍，进入实用新阶段
字节跳动Seed团队提出可扩展蛋白设计方法PXDesign，24小时生成数百高质量候选蛋白，效率较主流方法提升约10倍，湿实验成功率达20%–73%。还推出公开免费在线服务，提供配套工具加速应用落地。
琶洲模方亮剑：第四届琶洲算法大赛大模型前沿技术分论坛暨琶洲模方孵化项目展示圆满举办 | 甲子光年
9月23日，「第四届琶洲算法大赛大模型前沿技术分论坛暨琶洲模方孵化项目展示」举办。活动汇聚各界精英，展示琶洲AI产业化成果。清智·琶洲模方首批孵化成果亮相，还有主题演讲、签约仪式等，最后AI问辩将气氛推向高潮。
新榜单CompileBench：让AI能搞定22年前的老代码
近日，CompileBench 测试 19 个 AI 模型编译真实代码能力，最难任务是复活 2003 年代码并交叉编译到 Windows 和 ARM64。不同模型表现不同，如 Claude Opus 4.1 成功完成 ARM64 静态编译，各模型有不同优缺点。
SGLang × RoleBasedGroup（RBG）：打通大模型推理PD分离架构规模化落地的“最后一公里”
PD分离架构对大模型推理部署意义重大，SGLang支持该架构且性能佳。但从测试到生产落地难，存在部署、资源、可靠性等问题。SGLang开源RBG项目，结合二者为PD分离架构生产化落地提供方案。
Pingpong Schedule并不是万能钥匙
SGLang社区开发者反馈，SM90 FP8 Blockwise Scaling Grouped GEMM从H20迁移至H800后性能下降。文章分析是Pingpong调度策略所致，因算力提升，其使TensorCore未充分利用、TMA效率低，建议用Cooperative策略。
18岁女孩做养老机器人，上线2天卖爆了
18岁女孩Audrey Lo和团队推出养老机器人Sam，上线两天订单多到网站崩溃。它能24小时监测老人安全、提供陪伴，还可辅助护理人员。Audrey Lo此前还有两次创业经历，这款产品戳中市场痛点。
Windsurf快被Devin搞垮了！bug 不断、官方“装死”，百万用户要“跑”了？
Windsurf近期出现性能降低等问题，社区抱怨不断，但官方却隐身不回应。此前公司经历变动，Devin集成到Windsurf后问题频出，如级联错误、积分消耗等，部分用户开始转向其他产品，其未来发展存不确定性。
a16z 发布百大【生成式AI】消费级应用排行榜第五版
a16z发布第五版百大生成式AI消费级应用榜单，揭示普通人使用AI习惯的演变，生态趋于稳定。谷歌多款产品上榜，Grok与Meta加入战局，中国本土赢家崛起，“凭感觉编程”催生真实用户，还公布“全明星”阵容。
十载磨「芯」：云天励飞冲击港股AI推理芯片第一股
7月30日，云天励飞向港交所递交H股上市申请，迈向“A+H”新阶段。它是中国首家实现国产高算力AI推理芯片商业化的公司，坚持“全自研、国产化”，现进一步聚焦AI推理芯片，构建“1+N”业务架构。