「低延迟推理」共找到 2954 篇相关文章
亚马逊云科技大中华区总裁储瑞松：企业实现 Agentic AI 价值的关键在于三大技术准备
亚马逊云科技大中华区总裁储瑞松在峰会表示，正处 Agentic AI 爆发前夜。其爆发源于大模型能力发展、协议出现、推理成本降低等因素。企业实现其价值需做好三大技术准备，还推荐了 6 月 27 - 28 日的 AICon 北京站活动。
480P的元宇宙入口：Midjourney不是在做视频，是在造"任意门"
Midjourney发布首个视频模型Video V1，它只能图生视频，操作便捷。虽分辨率仅480P，但采样率高。生成成本低，会员就能用。其美学表现好、生成速度快，不过在提示词理解等方面较弱。该公司有独特愿景。
256块NPU训成8B视频模型、超越Sora等一众闭源！抖音内容技术团队开源ContentV
近日，抖音内容技术团队开源ContentV，这是面向视频生成任务的高效训练方案。用256块NPU约4周训成8B参数模型，在多评估维度效果与主流方案相近，还探索了有限算力下训练路径，现推理代码与权重已开放。
挑战 1 比特！ETH Zürich 秦浩桐：如何把大模型「塞进」小设备？| IJCAI 2026
IJCAI 2026大会上，秦浩桐给出创新解法，挑战无需重训的“后训练量化”极限，将庞大的LLM强行压缩至极端的1比特与2比特。其团队的BiLLM与SqueezeLLM打破了后训练量化魔咒，还指出极低比特量化的三大挑战。
一夜告别Token账单！端侧AGI真来了
2026年5月19日联想举办新品发布会，全球首发基于此芯Agentic SoC P1的联想AI主机P7与mini。P7小巧低功耗，算力强，有「一机双模」设计；mini更亲民。此芯P1构建端侧AGI算力矩阵，助力端侧AGI成现实。
从 Redis 到 Valkey，开源社区如何快速创新？
文章介绍了开源键值数据库 Valkey，它诞生于 2024 年 3 月，由 Linux 开源基金会托管，完全兼容 Redis OSS 7.2.4。Valkey 版本迭代快、性能提升、云厂商跟进、社区规模增长、迁移成本低。中国开发者在其中贡献突出，Valkey China 公众号也已上线。
神秘霸榜模型现真身：小米MiMo-V2 Pro，国内首个万亿参数+1M上下文，为Agent而生！
小米全新一代面向 Agent 的大模型家族官宣，包括 MiMo-V2-Pro Preview、MiMo-V2-Omni 和 MiMo-V2-TTS。MiMo-V2-Pro 性能优异，在多场景实测表现出色，技术有创新，API 开放且定价低，已融入小米多业务与生态。
全民拜龙？我看是大厂“套壳大战”搞疯了
OpenClaw是开源AI Agent框架，引发全民热潮，中国大厂纷纷推出套壳产品。国产套壳产品上手难度低，但也存在问题。傅盛基于此养出AI团队，猎豹移动市值涨24%。不过，OpenClaw存在安全问题，背后是Token入口争夺战。
MiniMax今早上市，股价疯涨80%！一群95后跑通了中国AI的价值
1月9日9:30，MiniMax于港交所上市，截稿时股价疯涨近80%。该公司仅用约5亿美元便让全模态模型进入国际第一梯队，员工平均年龄29岁。其以低投入、高产出及全球化业务，展现了中国AI的实力与潜力。
谷歌Nano Banana Pro上线，深度结合Gemini 3，这下生成世界了
谷歌最新图像生成模型Nano Banana Pro（Gemini 3 Pro Image）上线，结合Gemini 3 Pro强大推理与知识，在控制力、文字渲染和世界知识方面升级，能生成高分辨率、一致性强图像，还支持创意操控、多语言文本生成等，多产品将上线。