实时推理」共找到 2352 篇相关文章

算法论文8

让机器人学会「预判接触」:它石智航牵头四大顶尖机构发布TacForeSight,破解精细操作难题

它石智航联合四大顶尖机构发布论文 “TacForeSight: Force-Guided Tactile World Model for Contact-Rich Manipulation”,提出力条件触觉世界模型,让机器人能提前预判接触变化,在真机验证中性能优异。

机器之心
开源动态7

1200行代码逆袭!DeepSeek工程师开源轻量级vLLM,吞吐量逼近原版

开源 vLLM 可提升 LLM 推理速度和资源利用率。近日,DeepSeek 工程师俞星凯开源轻量级 Nano - vLLM,代码仅 1200 行,基准测试中吞吐量逼近原版,项目已在 GitHub 获 200 多 Star。

机器之心
新闻资讯8

截击英伟达!OpenClaw狂吞Token,北大系芯片黑马剑指2000 Tokens/s

NVIDIA GTC 2026前夕,AI推理赛道竞争激烈。北大系寒序科技宣布融资,首颗样片测试跑通,单位面积带宽达100GB/s/mm²,下一代「MRAM+SRAM」架构目标2000 Tokens/s,挑战英伟达。

新智元
产品应用7

Claude Code 推出语音功能,但是,不支持中文

Claude Code推出语音模式,向约5%用户开放。用户按住空格说话,系统自动生成文本,支持语音与键盘混合输入,能提高录入效率,但大概率不支持中文。此外,电报率先支持OpenClaw流式实时回复。

AGI Hunt
开源动态8

刚开源的口袋级TTS,CPU 即可多语言本地畅用,爽!

传统TTS模型对个人开发者和边缘设备不友好,最近Github上开源的Pocket - TTS仅100M参数,能在普通CPU上超实时语音合成,支持语音克隆,安装简单,适合多种本地语音开发场景。

开源先锋
开源动态8

DeepSeek开源的文件系统,是如何提升大模型效率的?

2月28日,DeepSeek开源高性能分布式文件系统3FS以解决人工智能训练和推理挑战。介绍了分布式文件系统优势,深入解读3FS的组件、CRAQ协议等,还探讨其与其他系统差异及性能相关问题。

机器之心
新闻资讯7

Pony Alpha新模型炸场!全球「猜爹大赛」开启

2月7日深夜,OpenRouter悄悄上线匿名模型Pony Alpha,其编程、推理等体验出色,外网瞬间疯传。全球开启‘猜爹大赛’,Claude、DeepSeek、Grok、GLM各派开吵,还凸显了‘匿名盲测式发布’新打法。

新智元
算法论文8

免训练加速61倍!陈怡然团队新作DPad:仅关注「彩票token」

杜克大学陈怡然团队新作DPad,发现扩散大语言模型关注少量「中奖」token,推理速度可提61 - 97倍,还增强模型语境学习能力。DPad免训练零成本挑关键信息,实现「少算多准」。

新智元
开源动态8

从Apache顶级项目到创业征程:一个开源人的坚守与突围

作者王华杰将个人项目 StreamPark 捐给 Apache 成顶级项目,现又踏上创业路。他讲述项目成长历程,还推出基于此的 Awestream 平台,有提升开发效率等特性,助力企业实时计算。

InfoQ
新闻资讯7

新的 Rust 客户端致力于实现基于 Aerospike 的安全、高性能应用

Aerospike正式发布Rust客户端,用于与其实时NoSQL数据库交互。采用异步优先并发模型,支持批命令等。还将支持分区查询等功能,Aerospike也提供其他客户端库助开发者构建应用。

InfoQ