端到端加速」共找到 2809 篇相关文章

新闻资讯7

xAI解散,但Grok还在上新,马斯克官宣新模型

xAI 解散、大批成员离职后,马斯克透露 Grok 最新模型进展,参数量 1.5T 的 Grok V9 - Medium 已完成训练,预计两三周内发布。他还宣布现有 0.5T 模型年底前开源,此外首款编码智能体 Grok Build 也备受关注。

机器之心
开源动态8

字节推出X-Streamer,实时口型同步与长程记忆数字人框架

字节推出多模态人类世界建模框架X - Streamer,能从单张人像构建可无限流式生成的数字人,实现音素级口型同步和长程记忆。其核心是“思考者–行动者”双Transformer架构,在两张A100 GPU上可实时运行。

带你学AI
产品应用8

Luma Uni-1.1 API开放,图像模型榜单第三,文字渲染直逼GPT image 2

今年图像生成模型迭代快,海外AI初创公司Luma将统一图像模型Uni - 1升级1.1版并开放API。它在榜单排名前三,价格与延迟低,有诸多品牌客户接入。展示了多场景应用效果,技术路线独特,定价有优势。

机器之心
新闻资讯8

突发,OpenAI首颗「辣椒」芯片压倒英伟达!GPT-6干崩CUDA

OpenAI首颗自研芯片Jalapeño「墨西哥辣椒」实测成绩亮眼,AI推理性能超英伟达全系,功耗仅为一半。它从设计流片仅用九个月,得益于GPT - Astra协助。有观点认为CUDA护城河或已死,OpenAI正打造算力版图。

新智元
产品应用7

回归C++: 在GGUF上构建高效的向量模型

Jina AI分享将纯解码器向量模型适配GGUF格式及在llama.cpp工具链的优化经验。经处理得特定任务v4模型,还生成量化版本并上传。介绍使用方法、注意事项,经测试推荐IQ3_S或IQ3_M版配合定制工具。

Jina AI
新闻资讯8

商汤分拆了一家AI医疗公司,半年融资10亿,剑指“医疗世界模型”

商汤分拆AI医疗公司,半年融资10亿。其以自研“大医®”为核心构建医疗世界模型,形成闭环。推出智慧医院方案,临床、决策、患者等多方面落地成果丰富,还布局海外市场,未来想让AI从文本模拟决策。

量子位
算法论文8

FlashAttention 完全进化史:FA-4 发布之际的技术全景回顾

文章围绕FlashAttention展开,从Attention性能瓶颈引出问题,阐述其各版本演进。FA-1实现算法突破,避免O(N²)内存;FA-2适配架构,提升性能;FA-3深度协同,实现异步;FA-4探索更深异步和角色分工。还探讨跨芯片迁移及未来优化方向。

GiantPandaLLM
新闻资讯8

驾驭AI的人,才是穿越周期的竞争力|2026极客时间DTDS大会圆满落幕

2026年5月极客时间企业版联合《培训》杂志举办DTDS大会,四位产业一线实践者拆解企业AI转型难题。协鑫科技张诗笳给出AI人才培养体系;赵钰莹发布8大岗位AI技能图谱;广新集团李志刚分享创新加速三步法;黄林给出未来趋势判断与诊断模型。

InfoQ
开源动态7

一个Dispatch Dtype引起的fp8 quant kernel性能问题

文章记录SGLang社区在sgl-kernel中解决的fp8 quant kernel性能问题,因错误使用`c10::Float8_e4m3fn`数据类型,未用硬件加速指令,通过软件调用致性能下降,现已修复,vLLM也应用此修复。

GiantPandaLLM
产品应用8

VLA进化后降维打击!双手拣货,漂移操作,还能批量化秀舞,太空舱直接开上街,被银河通用卷

世界机器人大会上,银河通用的人形机器人Galbot在具身智能小卖部营业,背后是自研具身智能大模型。其与英伟达联合首发的机器人应用表现出色,太空舱也在北京首发,适配多场景,具身大模型商用能力获认可。

量子位