推理框架开发」共找到 4661 篇相关文章

开源动态7

DeepSeek|从零构建轻量级vLLM:Nano-vLLM,吞吐量逼近原版,代码仅需1200行

开源的vLLM能提升LLM推理速度和资源利用率。近日,DeepSeek AI俞星凯从零构建轻量级Nano - vLLM,代码仅1200行。它有离线推理等功能,基准测试显示吞吐量逼近原版。

AINLPer
产品应用8

Qwen3-Max-Thinking:会想能干,比强更强

正式推出旗舰推理模型 Qwen3 - Max - Thinking,其在多关键维度显著提升,性能媲美顶尖模型。引入自适应工具调用和测试时扩展技术,现已上线 Qwen Chat,API 也开放,还介绍了使用方法。

千问Qwen
新闻资讯7

JetBrains放弃Fleet:急刹变道打造全新Agentic IDE,与VS Code、Cursor争夺下一代AI编程王座

本周,JetBrains 宣布停止开发 IDE 产品 Fleet,将精力投入新开发环境 Air。Fleet 自 2021 年推出一直处预览阶段,难取代 IntelliJ IDEA。公司称维持两条产品线易致用户困惑、分散精力。

AI前线
算法论文8

从物竞天择到智能进化,首篇自进化智能体综述的ASI之路

普林斯顿大学等机构研究者发布首个自进化智能体综述,为领域建统一理论框架和路线图。综述给出形式化定义,围绕What、When、How、Where构建分析设计框架,还探讨评估范式并指明未来方向。

机器之心
开源动态8

西湖大学科研版NanoBanana开源!科研绘图从此自动化

西湖大学将科研版NanoBanana开源,其AutoFigure框架可自动化生成学术插图且能编辑,论文被ICLR 2026接收。该框架提出理性渲染范式,配套FigureBench基准测试集,表现超越人类预期。

AIGC开放社区
新闻资讯7

想要「版本」超车,Agent 需要怎样的「Environment」?

AI创企you.com完成1亿美元C轮融资并转型为AI Infra公司。伴随Agentic AI发展,人工智能重心转变,人们开始思考开发适用于现代智能应用的「Agent Environment」及相应AI Infra。

机器之心
产品应用7

Pinterest 基于 CDC 的摄取系统将数据库延迟从 24 小时缩短至 15 分钟

Pinterest 推出新一代数据库摄取框架,突破传统批处理局限。旧系统延迟高、运维复杂,新框架基于 CDC 等构建,处理有变化记录,将数据延迟从超 24 小时降至 15 分钟,还节省成本。

InfoQ
新闻资讯7

OpenAI主攻速度的第一个模型来了:GPT‑5.3‑Codex‑Spark

OpenAI发布GPT-5.3-Codex-Spark,是GPT-5.3-Codex轻量级版本,也是首个为实时编程设计的模型。亮点是速度快,推理超每秒1000 token,已向ChatGPT Pro用户开放,后续规划融合两种工作模式。

AI寒武纪
新闻资讯8

DeepSeek、智谱被曝造芯,国产大模型绕开英伟达!

据路透社等爆料,DeepSeek与智谱AI正秘密自研定制化AI芯片,目标是摆脱对英伟达等的硬件依赖,构建自身算力生态。因算力账本和外部环境压力,两家公司选择研发面向推理场景的芯片。

新智元
开源动态8

2.1K star!在终端里丝滑写Markdown,这款平替神器绝了!

Glow是Charm团队开发的命令行Markdown阅读器,解决文档与命令行割裂问题。它功能丰富,支持多平台安装,架构清晰易扩展,适用于开发、运维等场景,相比同类工具优势明显。

小华同学ai