大模型推理」共找到 9590 篇相关文章

新闻资讯7

Grok最新模型吃上Cursor「加餐」,马斯克:Coding实现巨改进

马斯克在X上透露,xAI的Grok基础模型V9 - Medium(1.5T)完成训练,预计2 - 3周后发布,训练加入量Cursor数据。同时,xAI的AI编程代理工具Grok Build进入早期Beta测试阶段。

量子位
推荐文章7

Sebastian Raschka 2026预测:Transformer统治依旧,但扩散模型正悄然崛起

知名AI研究员Sebastian Raschka预测2026年,Transformer架构在未来至少一到几年仍占统治地位,但会在效率和混合上微调。同时,扩散语言模型虽有工具调用缺陷,但在数据稀缺时或成更好的学习者。

机器之心
新闻资讯8

李飞飞发布世界模型新成果:一个提示,生成无限3D世界

李飞飞创业团队World Labs宣布能生成持久、可导航且能自定义操控的3D世界。该模型专注构建3D环境,有更好几何形状、多样风格、更规模,还支持无限畅游,已推出beta版。

量子位
推荐文章7

24小时快速入门热语言Rust!学不会来找我

文章从Rust核心语法等基础入手,介绍其不同于其它语言的思维方式,还通过实战项目带读者入门。阐述了安装、工具使用,用greplite小程序介绍语言特点,讲解组织数据方式、所有权等,最后实现mini - redis并给出学习建议。

腾讯技术工程
算法论文8

提速79%!上交新方法优化企业级AI流程调度 | IEEE ICDCS’ 25

上海交通学朱怡飞教授团队联合江行智能提出调度框架LLMSched,解决复合LLM应用任务运行时长和结构不确定问题。该框架重构DAG模型,用贝叶斯网络和熵减机制优化调度,实验显示最多降79%平均任务完成时间。

量子位
开源动态8

Kimi新模型拿下代码开源SOTA,仅仅72B,发布即开源

深夜,Kimi发布新开源代码模型Kimi - Dev,在SWE - bench Verified上以60.4%成绩获开源SOTA。参数量72B,编程水平强。采用MIT协议,权重和代码已发布。官方透露了部分关键技术,更多细节待后续报告。

量子位
新闻资讯8

SGLang 推理引擎的技术要点与部署实践|AICon 北京站前瞻

SGLang 是开源推理引擎,截至 2025 年 6 月,GitHub 近 15K Stars,月均下载量超 10 万次,被多个行业巨头采纳。InfoQ 专访其核心开发者尹良升,他分享关键技术等内容,6 月 27 - 28 日他将在 AICon 演讲。

InfoQ
开源动态7

最强开源0.9B级OCR模型!PaddleOCR-VL本地一键部署!

作者分享本地部署PaddleOCR-VL的经历,包括踩坑过程、解决办法及启动指令。该模型识别速度快,支持OpenAI API格式,可轻松接入Fastgpt、Dify、n8n等平台。

开源星探
开源动态8

万帧实时!流式3D重建天花板,被国产开源模型打破了

蚂蚁正式开源 LingBot-Map,这是基于几何上下文 Transformer 的纯自回归流式 3D 重建基础模型。它能在恒定内存下实现超万帧长视频实时三维重建,处理速度约 20 FPS,在多基准测试中超越现有流式方法。

机器之心
推荐文章7

AI Coding 流畅度模型:人机协作中的开发者角色转型与未来演进

生成式 AI 正进入软件开发流程,角色不断扩。AI Coding Fluency 模型描述团队使用 AI 能力演进,从辅助到自主执行。AI 编程面临信任、上下文、任务设计挑战,关键在于协作方式。

phodal