「大模型部署」共找到 9648 篇相关文章

推荐文章8

Agent下半场!比Prompt更重要的是「上下文工程」,Anthropic首次系统阐述

Anthropic发文章阐述上下文工程,指出构建语言模型重点正从提示工程转向上下文工程,探讨了其与提示工程区别、重要性,给出实践指导原则、新趋势及应对长时程任务策略。

AI寒武纪
7

高盛研报:AI时代最大瓶颈不在算法和数据,而在电力和资本

高盛《Powering the AI Era》报告指出,AI是基础设施革命,其最大瓶颈是电力和资本。如一座250MW数据中心成本达120亿美元,2030年全球数据中心电力需求将激增,还介绍了应对办法及相关细节。

AI工程化
开源动态7

DeepSeek突然拥抱国产GPU语言!TileLang对标CUDA替代Triton,华为昇腾Day0官宣支持适配

DeepSeek v3.2开源TileLang版本算子引关注,其可对标CUDA替代Triton,还适配国产算力生态,华为昇腾官宣支持。TileLang由北大团队主导,提供不同层次编程接口,助DeepSeek提升性能。

量子位
推荐文章8

vLLM PIECEWISE CUDA Graph 技术学习笔记

文章围绕vLLM PIECEWISE CUDA Graph技术展开,介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容,PIECEWISE技术让vLLM在prefill阶段性能提升。

GiantPandaLLM
产品应用8

Agent+Code,打开AI开发新范式

当下企业级AI叙事逻辑转变,传统AI应用有瓶颈。京东云在JDD 2025大会提出“深度应用”理念,推出“Agent+Code”新范式,其包含JoyAgent 3.0和JoyCode 2.0,还通过开源引领行业创新。

InfoQ
产品应用8

四川美术学院团队用AIGC“复活”千年非遗,时尚又未来!

四川美术学院汪泳教授团队发起“锦绣西南”项目,引入AIGC对古老织锦纹样创新演绎。该项目成果丰富,如科普网页、AR应用等,还获阿里云支持,探索非遗传承、传播与应用新路径。

MANA新媒体艺术站
开源动态8

Github 1.8K star厉害!!有了这个办公AI神器,效率飙升!

Speakr是完全自托管的AI会议助手,能将音频转文字、生成摘要、进行内容问答,离线运行保障隐私和安全。它功能丰富且轻巧,支持多平台,GitHub已破1.8K star。

开源先锋
开源动态7

三个月、零基础手搓一块TPU,能推理能训练,还是开源的

加拿大西安大略大学工程师暑期打造开源 ML 推理、训练芯片 TinyTPU。他们非专业出身,从基础学起。还介绍了造 TPU 原因、硬件知识、构建方法,及推理、训练的实现。

机器之心
开源动态8

11.8k Star 爆火!Firecrawl开源王炸,秒级生成React应用!

知名网页抓取工具Firecrawl团队推出开源项目Open Lovable,几天内获11.8k Star。它是AI网页克隆工具,能秒级将网站克隆为React应用,功能丰富,适合多类人群,还介绍了上手步骤和应用场景。

开源星探
新闻资讯7

2025 AI Agent 发展现状与六大趋势

近半年,Agentic AI 创新加快,推动产品落地与商业化。2025 年市场格局显现,有 Agentic RAG、Voice Agents 等六大关键趋势,各有定义和应用场景,不少公司已采用相关技术。

特工宇宙