「需求链智能调度」共找到 4216 篇相关文章
AICon上海演讲精华回顾:《GMI Cloud 全球化高性能分布式推理服务构建实践》
AICon2025上海站,GMI Cloud资深架构师Frank Lee分享《GMI Cloud全球化高性能分布式推理服务构建实践》,介绍其推理平台,拆解扩缩容等能力,分享架构设计、部署及优化实践,揭秘推理提效关键路径。
上下文工程的崛起:提示工程已是过去式
大模型应用从简单问答转向复杂智能体系统,技术焦点正从提示工程转向上下文工程。上下文工程核心是为大模型提供恰当信息与工具,其重要性日益凸显,且与提示词工程有明显区别。
万字长文!大模型(LLM)推理优化技术总结(非常详细)
文章聚焦大模型推理优化技术,介绍推理过程分预填充与解码阶段,还阐述模型并行、注意力机制优化、模型优化及服务技术等,如多查询注意力减少内存,FlashAttention 优化计算顺序。
AI 渗透金融行业:大模型如何破解风控、服务与决策难题?
在数字化与人工智能驱动下,金融行业变革深刻。InfoQ《极客有约》X AICon 直播栏目邀多位专家探讨大模型赋能金融,涉及风控、服务、决策等难题,分享了大模型应用场景、技术渗透、权衡可解释性与性能等观点。
PCB越卖越贵,黑马市值暴涨逆袭
印刷电路板(PCB)是电子设备组装基础,受益于下游产业升级。AI服务器等成需求增长动能,相关企业营收利润提升。如胜宏科技成英伟达GB200服务器PCB核心供应商,业绩亮眼,技术优势支撑订单增长。
图灵巨擘RL教父齐聚,机器人秀拳脚嗨翻全场!「悟界」首发引爆物理AGI
智源大会开幕,四位图灵奖得主等出席。会上,Bengio提出‘科学家AI’应对安全风险;Sutton称AI迈入‘体验时代’;Hausman讲构建物理智能。智源还发布‘悟界’系列大模型,含Emu3、Brainμ等,迈向物理AGI。
马斯克懂王闹掰!70亿美元砸出全球最大AI超算巨兽,奥特曼偷笑太早
Epoch AI报告揭示,不到10年顶级AI算力或暴涨8万倍。马斯克与特朗普决裂,奥特曼或成受益者。xAI砸70亿美元打造全球最大AI超算Colossus,还分析了算力、成本、电力等趋势及格局变化。
华为海思老兵上海创业,拿到亿元投资!
过去两年汽车行业竞争激烈,智能驾驶芯片成关键领域。近日,上海为旌科技完成A2轮融资首次交割,获君信资本1亿元。其创始人郑军是海思老兵,带领公司研发多款芯片,还提出诸多行业见解。
重磅开源!首个全异步强化学习训练系统来了,SOTA推理大模型RL训练提速2.77倍
清华大学和蚂蚁技术研究院联合团队开源全异步强化学习训练系统 AReaL-boba²,坚持“全面开源、极速训练、深度可定制”理念,实现异步 RL 训练,训练速度最高提升 2.77 倍,支持多轮智能体强化学习训练。
31家最挣钱的AI小公司盘点:平均20人、人均创收279万美元
近日,‘顶尖精益AI Native公司排行榜’引发关注,罗列31家团队小、营收可观的初创公司。榜单上有不少AI套壳产品,如GPTZero等。AI工具提效让团队精简,精益团队有成本等优势,部分创业者倾向少融资。