「实时分析引擎」共找到 1716 篇相关文章
[Triton编程][基础]vLLM Triton Merge Attention States Kernel详解
文章详细介绍vLLM中Triton Merge Attention States Kernel的实现,与PyTorch原生实现对比,该Triton kernel最高可实现3 - 5倍以上算子加速。内容涵盖Merge Attention States概念、PyTorch实现、Triton基础算子、分析及性能评估等。
Hermes Agent抄袭中国团队代码实锤!被锤后回应:你删号
AI圈现教科书级开源抄袭事件,GitHub狂揽8.5万Star的Hermes Agent被指架构级抄袭中国团队EvoMap的Evolver引擎。EvoMap公开技术对比报告,实锤两者架构高度同构,而Hermes团队回应令人失望。
字节前技术负责人创业,联手清华姚班校友,编程智能体世界登顶
词元无限团队开发的编码智能体 InfCode,在权威 AI Coding 基准中登顶。它定义 AI 编程「工程时代」,有代码意图分析等亮点,背后是豪华团队,致力于构建商业闭环。
最受欢迎的开源大模型推理框架 vLLM、SGLang 是如何炼成的?
文章介绍了开源推理引擎 vLLM 和 SGLang,包括起源、创新、社区发展、版本迭代等。vLLM 借鉴分页缓存管理技术,SGLang 基于 RadixAttention 优化。二者竞争激烈,性能趋同,还获投资与基金会关注,受科技公司青睐。
加拿大丛林迷路五小时,ChatGPT救命神技,比地图还靠谱!
一群人在加拿大森林迷路5小时,手机电量低、Google Maps失灵,靠向ChatGPT发实时坐标获导航指引脱险。此外,上海交大团队推出PathGPT,用大模型让导航可自然对话,虽有不足但潜力大。
The Batch:835 | 图表中的 AI 市场趋势
知名投资分析师 Mary Meeker 时隔六年发布 340 页 AI 市场报告。报告指出 AI 变革快、性能攀升、有新兴能力,还会影响劳动力等,同时也带来经济不确定性,当下是开发软件应用的黄金时期。
给野马套上缰绳:Agent Harness 工程实践 ——从范式理论到钉钉AI招聘的真实落地
本文围绕 Agent Harness 工程实践展开,指出瓶颈在‘装’好模型而非模型本身。介绍 Agent 公式、范式跃迁、四条铁律、工程模式,以悟空 AI 招聘为例说明落地,还分析行业标杆、未来趋势,给出心法。
马斯克宣布SpaceX合并xAI!1.25万亿美元火箭AI巨兽诞生
马斯克官宣全力冲刺IPO的SpaceX已收购xAI,合并后新公司估值达1.25万亿美元。马斯克称交易将打造创新引擎,还将推进太空部署数据中心计划,xAI成全资子公司可缓解资金焦虑。
AI+直播的新玩法! StreamDiffusionV2让创意零延迟
生成模型改变直播行业,但此前模型难保证时间一致性、有延迟等问题。加利福尼亚大学推出StreamDiffusionV2,通过智能调度和缓存机制优化,支持多GPU并行,可灵活调画质和延迟,实现实时直播。
人生周报v044:费曼
文章围绕AI应用展开,指出人机交互是AI应用竞争壁垒,介绍典型案例及交互形态,分析Agent不同场景,还提及AI应用创业要素,最后推荐《费曼经典:一个好奇者的探险人生》。