「AI推理加速」共找到 11290 篇相关文章

新闻资讯7

GPT-5.6攻克25年量子信息难题,人类学者连夜「像素级」洗稿发论文

7月23日,量子信息领域一道悬了25年的难题出现两份独立证明,一份由GPT - 5.6 Sol生成,另一份人类署名论文被质疑与GPT - 5.6 Sol输出相似且无AI使用声明。GPT - 5.6 Sol半月内已在多学科产出证明,引发学术署名规则讨论。

新智元
新闻资讯9

7个人、5个月!Anthropic造出了Git替代品

Anthropic因AI编程规模暴涨,原有Git架构无法满足超大型单体代码仓库的需求,7人工程师团队借助Claude,耗时5个月从零开发出内部源代码控制系统Scion及配套工具,并完成全部迁移,本文分享了整套设计思路与工程实践。

机器之心
新闻资讯7

英特尔中国 40 年,未来战略明确:坚持代工业务,Intel 18A 是未来三代产品基石

在英特尔产业创新大会上,英特尔明确战略方向,坚持代工业务,以 Intel 18A 为未来三代产品基石。明年将推更多基于该制程的产品,还发力新兴市场。此外,其 Panther Lake 平台性能飞跃,推动 AI PC 发展,也助力机器人市场。

AI前线
产品应用7

Qwen3-Next全新架构,32K场景MTP吞吐提升10倍

随着模型大小和上下文长度增加,为应对成本和部署挑战,Qwen3 - Next有突破性架构创新,解决上下文长度和总参数缩放问题。它采用混合注意力、超稀疏MoE等,MTP机制让其长上下文推理吞吐量比前身高10倍以上。

CourseAI
开源动态8

腾讯混元开源 4 个小尺寸模型,主打 Agent 和长文

8月4日,腾讯混元开源四款小尺寸模型,参数为0.5B、1.8B、4B、7B,消费级显卡可运行,适用于低功耗场景。模型具备推理快、性价比高特点,亮点是Agent和长文能力,已在腾讯多业务应用。

InfoQ
推荐文章7

图解Vllm V1系列5:调度器策略(Scheduler)

本文是图解Vllm V1系列5,聚焦调度器策略。先回顾vllm v1整体运作流程,接着阐述调度 - 推理的整体流程,包括将请求添加进Scheduler、Scheduler单步调度策略等,还对比了不同场景下的函数及调度逻辑。

GiantPandaLLM
新闻资讯7

GPT-5七月上线?内部爆料+奥特曼疯狂暗示,自曝前方时刻「令人恐惧」

近日,多方消息显示OpenAI可能7月发布GPT - 5,奥特曼也确认o3 pro快来了。人们对GPT - 5期待颇高,猜测其能力有提升也有局限。奥特曼访谈透露AI会带来多方面变化,应服务个人意志。

新智元
开源动态7

多模态需求井喷,智能视频云如何靠分布式处理破局?

国内多模态AI发展中,模型层火热但应用层落地慢。多模态应用落地面临体验升级、视频化扩展、大模型部署下沉挑战,催生智能视频云升级需求。火山引擎在FORCE大会展示分布式多媒体处理实践,推出MIPP平台,未来将开源并推商业化产品。

InfoQ
新闻资讯8

万字实录:VLA 范式,具身智能的曙光与迷雾丨GAIR Live

2025年5月9日,雷峰网等举办“具身智能之VLA的实践与突破”线上圆桌沙龙。多位专家探讨VLA定义、起源、技术路线等,指出其面临推理、数据等瓶颈,还讨论了与强化学习结合、数据选择、提升泛化性、长程任务及落地场景等问题。

AI科技评论
产品应用8

多快好省,Qwen3混合部署模式引爆MCP

文章介绍Qwen3混合部署模式在MCP中的应用。MCP是AI与外部交互的标准协议,解决传统问题。Qwen3性能强、成本低,有混合思维等特点。通过本地小尺寸和满血版结合部署,实现多快好省,但仍有资源消耗等不足。

阿里云开发者