「实际开销」共找到 316 篇相关文章

推荐文章8

vLLM PIECEWISE CUDA Graph 技术学习笔记

文章围绕vLLM PIECEWISE CUDA Graph技术展开,介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容,PIECEWISE技术让vLLM在prefill阶段性能提升。

GiantPandaLLM
开源动态8

全球首次实测通过!CMU华人用AI设计的乐高「不翻车」

CMU研究人员提出LegoGPT,它微调Meta的LLaMA模型,结合47000个稳定结构数据集,确保98.8%的乐高设计符合物理定律,可实际搭建。目前,数据集、代码和模型均已开源。

新智元
产品应用7

TokenDance 首发上线 GLM-5.2,内测一周后今日正式开放

今日,TokenDance 平台首发接入智谱最新旗舰模型 GLM-5.2 并面向外部用户开放。它是面向开发者与企业的大模型聚合平台,用户接入一个 API Key 就能调用多种主流大模型。此前团队已对 GLM-5.2 深度内测与适配。

特工宇宙
算法论文8

让大模型异步地增强推理能力

在大模型推理时代,Test - Time Scaling成提升能力重要方向,但面临效率问题。ATTS提出异步框架,加入共形预测筛选候选路径,实验显示其加速显著,将测试时扩展推进到‘有原则加速’阶段。

深度学习自然语言处理
开源动态8

10 万 Star 的反常识:AI 写代码的瓶颈从来不是代码本身

GitHub上的Superpowers开源项目,半年攒10.9万Star。它是AI编程工具的工作流操作系统,让AI像工程师工作,有面试需求、细化计划等流程,内置14个技能,安装简单,理念超前但也有局限。

CourseAI
产品应用7

Gemini 3.1 Flash-Lite Preview发布:Google完成AI模型分层布局

Google发布Gemini 3.1 Flash-Lite Preview,针对企业和开发者场景优化,速度快,有‘思考级别’功能。基准测试表现不错,价格比Claude 4.5 Haiku便宜,但开发者社区反应复杂,面临市场定位问题。

AI工程化
新闻资讯8

OpenAI Atlas等AI浏览器暴露Web Agent安全风险!南洋理工破解底层机制

OpenAI Atlas等AI浏览器提升网页自动化效率,但使智能爬虫威胁加剧。南洋理工等团队研发的WebCloak,混淆网页结构与语义,打破爬虫技术依赖,为数据安全筑防线,适用于数据敏感场景。

新智元
新闻资讯7

碾压超算13000倍!1个月内,谷歌量子AI连斩诺奖+Nature封面

谷歌宣布人类首次在真实硬件上,让量子计算机成功运行可验证算法,性能超全球最快传统超算13000倍,成果登上Nature封面。此突破让实用量子计算机更近一步,不过也有学者对此表示怀疑。

新智元
产品应用8

很多创业者都没意识到,Deep Research 也是做 Go-to-Market 的利器

用好 Deep Research 可提升 AI 产品 GTM 效率,主流 AI 产品都有该功能。前 Meta 战略总监写实用指南,从技巧、提示词公式、工具选择等阐述,还给出 5 个 GTM 用例及提示词模板。

Founder Park
推荐文章7

用了半年的MCP,它不是“USB-C”,而是企业AI落地的噩梦!

文章指出MCP虽曾被视为AI界USB - C接口,但企业落地时问题诸多,如类型安全靠猜、标准协议名存实亡、调试困难等,还给出企业级MCP落地自查清单。

探索AGI