「应用商店优化」共找到 3228 篇相关文章
sgl-kernel MoE Align Block Size Kernel 优化过程解析
文章记录SGLang的sgl-kernel中优化 `moe_align_kernel.cu` 的过程。MoE模型的 `moe_align_block_size` kernel从最初的baseline版本经多次迭代,包括加向量化padding、用Blelloch Scan并行化前缀和、用Warp Scan减少同步开销等。
410份Demo,00后把AI应用推进了"深水区"
魔搭社区与Datawhale携手,11所高校、5600+开发者参与AI应用实验。410份初赛Demo中224支战队入围复赛。作品呈现从通用助手到深水区工具等趋势,还有陪跑环节助力从Demo到真产品。
吴恩达深夜发文:GenAI 时代应用工程师的必备能力清单
吴恩达发文剖析GenAI应用工程师这一新兴职业。指出其技能要求与传统软件工程师不同,强调掌握多种AI积木块、利用AI辅助编程工具的重要性,还提及产品技能是加分项,并给出面试关键问题。
低延迟、高吞吐,LLM优化与高效推理引擎综述
LLM计算成本高,用户要低延迟,企业要高吞吐。工程师开发优化技术,如动态批处理、KV缓存、模型量化。论文对比25款推理引擎,还探讨了多模态支持、手机端推理、新型架构支持等进化方向。
千星项目LLMRouter:多模型路由,16+策略优化推理
UIUC开源智能模型路由框架LLMRouter,可自动为大模型应用选最优模型,有16+路由策略。该框架打通训练、评测等链路,解耦Route与Training模块,支持多轮协同等,还可插件式扩展。
行业首场丨00 后 Agent 应用创业者的行业观察
外滩大会智能体论坛举办全员 00 后的 Agent 主题圆桌。嘉宾探讨 2025 是否为 Agent 元年,还分享 Agent 应用方向、场景价值、落地卡点、AI Coding 发展及基模与垂直 Agent 关系等观点。
微软发布NLWeb:把任何网站变成AI应用的秘密武器!
微软在Build 2025大会发布开源项目NLWeb,基于MCP构建,能让任何网站秒变AI应用。它是开放协议和工具集,可添加自然语言对话界面。与其他协议对比有优势,已有组织试用,不过企业采用态度不一。
0 代码改造实现应用运行时数据库密码无损轮转
本文探讨通过整合 MSE Nacos、阿里云 KMS 及 Apache Druid 等技术组件,实现应用运行时数据库密码无损轮转。介绍敏感数据安全风险,详述方案流程、优势,还提及未来对接更多组件,支持多参数动态更新。
AI改变世界!微软发布700个真实AI Agent、Copilot应用案例
微软发布700个真实的Agent智能体、Microsoft Copilot应用案例,涵盖金融、医疗、科技等多领域。如埃森哲构建智能体降低销售未清天数,ANS用其提高成交率等。
谷歌悄咪咪上线了 10 款 AI 应用,下一个 NotebookLM 可能在里面
谷歌在Google Labs上线10款AI应用,如Whisk生图、Mixtape将名画变音乐、Food Mood定制食谱等。不少项目虽处实验阶段,但完成度和可玩性高,还展现了谷歌在AI领域的探索与创新。