AI架构优化」共找到 10967 篇相关文章

推荐文章8

NVIDIA技术沙龙 《大规模EP优化:PD分离MoE并行方式》课程笔记

本文是NVIDIA技术沙龙课程笔记,介绍大规模EP优化的PD分离MoE并行方式。涵盖PD分离、大规模专家并行等五项关键技术创新,还对比多模型架构,展示推理服务架构性能特点与优化策略,以及各技术工作流程和效果。

GiantPandaLLM
开源动态7

20人团队提前实现DeepSeek构想,AI算力变天?直击大模型算力成本痛点

国内20人玉盘AI团队推出SRDA全新计算架构方案,试图从硬件源头解决当前AI算力核心瓶颈。该架构有诸多创新设计,能应对大模型训推痛点,与DeepSeek构想契合,或成大模型专用架构分水岭。

新智元
推荐文章8

前端工程化演进之路:从手工作坊到AI驱动的智能化开发

本文回顾前端开发从jQuery到AI的变革,剖析工程化演进、性能优化进化,展示AI与前端深度融合新范式。还预测未来趋势,为开发者提供成长路径指导,强调工程化、性能优化AI应用及持续学习的重要性。

阿里云开发者
产品应用8

借助 AI Coding 快速打造 AI Agent 系统

文章围绕购物场景生成AI Agent系统展开,原有低代码方案遇瓶颈,团队转向LangGraph等工程方案,借助AI Coding工具重构上线。介绍了项目需求、挑战,阐述核心架构升级,分享AI Coding开发实践及项目成果与启示。

阿里云开发者
产品应用8

全新 AI 消息模型:Apache RocketMQ 如何让 AI 应用拥抱事件驱动架构

AIGC浪潮下,大语言模型重塑应用开发范式,开发者构建AI应用面临诸多挑战,需可靠高效的异步通信机制。Apache RocketMQ在AI时代演进,有轻量化通信与智能化资源调度两大创新,还介绍了多场景实践。

InfoQ
推荐文章7

默认联网搜索开启,DeepSeek、豆包、Kimi、百度文心一言、腾讯元宝、通义、智谱、天工等AI生成内容信息采集主要来自哪?

作者白杨SEO分享AI搜索优化,提到部分AI大模型默认开启联网搜索,利于做AISEO。还逐个分析DeepSeek、豆包等AI生成内容信息采集来源及占比,助于做好AI搜索优化

白杨SEO优化教程
推荐文章7

Thin Harness, Fat Skills:AI工程架构的本质

文章介绍了AI工程架构本质,阐述Garry Tan倡导的智能体工程三原则,分析架构分层,包括Fat Skills、Fat Code和Thin Harness层,还通过案例展示技能文件进化特性,提及社区讨论、边界迁移和工程纪律价值。

AI工程化
新闻资讯8

谷歌Ironwood架构TPU v7:用AIAI,撼动英伟达芯片帝国

11月25日谷歌云发布第七代定制芯片Ironwood,由AlphaChip设计。它以9.6 Tb/s光互联带宽和1.77 PB共享显存池重构大模型推理硬件基准,挑战英伟达芯片地位,展现AI算力竞争新趋势。

AIGC开放社区
开源动态8

开源的 V0/Lovable 替代方案Libra AI

Libra AI是面向生产环境的AI原生开发平台,可通过自然语言交互管理Web应用全生命周期。它功能丰富,如AI智能编码、集成开发体验等。其开源有技术自主、架构灵活等好处,还介绍了技术架构、上手方式与部署方案。

GitHubStore
推荐文章8

迈向可信AI:LLM幻觉的分析与优化

随着LLM广泛应用,其幻觉现象成AI落地关键挑战。文章分析LLM幻觉成因、优缺点,结合RAG、SFT、强化学习等技术,提出多维度优化方案,为构建可信大模型应用提供理论与实践路径。

腾讯技术工程