高效架构」共找到 2308 篇相关文章

开源动态7

Pogocache:开源缓存软件实现低延迟并支持多传输协议

全新开源缓存软件 Pogocache 近日发布 1.0 正式版,主打低延迟与 CPU 高效能特性,支持多种主流通信协议,宣称比其他开源缓存方案有更高吞吐量和更低延迟。还介绍了其架构、应用场景等。

InfoQ
算法论文8

扎克伯格的豪赌初见成效?Meta新方法让LLM长上下文处理提速30倍

Meta Superintelligence Labs提出REFRAG高效解码框架,解决LLM长上下文输入效率瓶颈。它通过四步流程优化解码,让首个token生成时间加速达30.8倍,扩展上下文,且精度不降反升,不过价值待实际检验。

机器之心
新闻资讯8

吴恩达批Vibe Coding:应届生正面临失业,真正稀缺的是极具经验的AI 工程师

吴恩达发文指出大学教学与企业需求错位,导致CS毕业生难就业,而AI工程师供不应求。他面试看重三能力,有这些技能的人生产力高,企业急需。他认为优秀开发者是紧跟AI变化的经验者,基础知识仍重要。

AGI Hunt
产品应用8

ZeroGPU Spaces 加速实践:PyTorch 提前编译全解析

本文聚焦 ZeroGPU Spaces 加速实践,介绍 PyTorch 提前编译。ZeroGPU 使在 Hugging Face Spaces 用 Nvidia H200 硬件更高效,但有局限。提前编译可优化模型,提升演示速度,还分享了接入方法、高级技巧及演示示例。

Hugging Face
算法论文7

EMNLP 2025 浙大&蚂蚁 | 提出动态压缩CoT推理新方法:LightThinker

随着AI发展,大语言模型处理复杂推理任务能力提升,但推理时产生大量中间步骤和文本,拖慢计算速度、增加资源压力。浙大、蚂蚁等机构研究者提出LightThinker,可动态压缩推理步骤,降低内存占用和计算成本。

AINLPer
8

企业落地 NL2SQL,需要的是 AI-ready data 和 小模型

当NL2SQL从Demo走向生产,关键是‘更干净的数据底座 + 更小的专用模型 + 更可控的工程化流程’。文章指出先数据后模型,小模型足够用且落地成本低,评估要换维度,还介绍了工程化路径等内容。

InfoQ
开源动态7

LangChain 推出开源异步编码智能体 Open SWE

LangChain发布开源异步编码智能体Open SWE,可在云端处理复杂开发任务,能集成到开发者工作流。它连接GitHub仓库,在沙箱运行,强调人在回路控制,多智能体架构保障代码质量,早期反应褒贬不一。

InfoQ
推荐文章8

麻省理工大学:《通往通用人工智能之路》的研究报告

麻省理工科技评论洞察与Arm公司合作发布《通往通用人工智能之路》报告,探讨AGI定义、实现时间表、当前AI局限性及技术路径等。指出当前AI有局限,实现AGI需解决诸多障碍,还强调计算能力和异构计算的重要性。

力学与人工智能
推荐文章7

构建可靠AI Agent:从提示词、工作流到知识库的实战指南

本文阐述如何构建可靠、高效且可落地的AI Agent应用。随着LLM和工具调用标准化,开发核心竞争力转向提示词工程、工作流设计和知识库构建。还介绍各部分要点及安全策略,给出确定AI项目的方法。

阿里云开发者
产品应用8

理解、生成、编辑一次搞定:Skywork UniPic 2.0的统一多模态解法|甲子光年

电商团队常面临创作流程繁琐问题,当前行业需统一架构。昆仑万维发布Skywork UniPic 2.0,整合理解、生成、编辑功能。它参数小性能优,还构建奖励模型,配合其他模型构建体系,具成本等优势。

甲子光年