「CUDA Green Context」共找到 169 篇相关文章
AI数据工程师在应用中如何"返璞归真"
文章反思‘知识库+Prompt工程+工具调用’轻量级Agent构建模式局限,指出其难应对知识质量、语义理解与规模化维护挑战。提出从‘Prompt驱动’到‘上下文工程’、从‘搭积木组装’到‘全链路闭环’的范式跃迁,并介绍MktAI知识体系建设。
谷歌AI的“心脏”长什么样?读懂TPU就够了
文章介绍了谷歌TPU的发展历程,从2015年为解决AI计算效率瓶颈自研,发展到如今成为谷歌“经济支柱”。还对比了谷歌、英伟达、亚马逊的芯片路线,强调谷歌全栈垂直整合策略使TPU在推理时代优势明显。
The Batch: 897 | 科学实验室的通用语言
上海人工智能实验室发布开源的 Science Context Protocol (SCP),它能连接 AI 智能体与多设备进行自动化科学探究。相比 MCP,其结构更安全,可管理模拟和实体实验,促进跨学科合作。
AI终端驱动下的芯片产业:新周期的起点与方向|甲子引力X
在8月21日的投资大会上,六位半导体领域顶级投资人剖析AI时代芯片破局路。他们认为中国虽在核心制造与软件生态是“跟随者”,但贴近终端等构成独特优势,还探讨突破壁垒、应对困境之法及未来投资方向。
mem0推出王炸mcp工具OpenMemory,打造用户私有、跨应用的共享记忆层
mem0项目推出OpenMemory MCP,这是专为兼容MCP的AI客户端设计的私有记忆层,能解决跨AI工具的Context共享问题。它强调隐私和本地控制,功能实用,获用户积极反馈。
刚刚,腾讯姚顺雨署名首篇论文发布,「下半场」先搞上下文学习
腾讯混元团队和复旦联合团队发布姚顺雨署名首篇论文《CL - bench》。论文证实模型在上下文利用上有能力短板,还构建了CL - bench评测基准,评估发现前沿模型在上下文学习上表现差,未来要让上下文学习走向现实。
不上云、不租卡,如何优雅地在本地微调Qwen-VL-30B?
文章指出企业训练多模态助手,30B 参数的开源多模态模型如 Qwen-VL-30B 是不错选择,但多模态场景下显存需求大。联想 ThinkStation PGX 解决了显存难题,还介绍其性能、优势、适用场景及服务等。
1 亿美元 ARR、不设 AI 硬件产品经理,Plaud 如何拿下全球百万用户?
2023年6月Plaud AI推出AI录音卡片Plaud Note,一年多交付30万台、ARR达1亿美元,今年7月全球出货量达100万台。Plaud中国区CEO莫子皓称其更像大模型公司,无真正对手,分享了产品观和招人标准等。
大模型能否为不同硬件平台生成高性能内核?南大、浙大提出跨平台内核生成评测框架MultiKernelBench
深度学习计算依赖底层内核,当前多由开发者手工编写。南大、浙大推出开源评测框架MultiKernelBench,打破现有评测基准局限,构建模块化评测体系,多模型实测,还指出LLM短板并明确未来方向。
企业数字化转型新引擎:MCP + LLM + Agent 架构赋能!
本文介绍MCP(Model Context Protocol)模型上下文协议,它是Anthropic于2024年11月底推出的开放标准,可统一大模型与外部数据源和工具通信协议,打破数据孤岛,有诸多优势,还适用于多个场景。