「零延迟」共找到 539 篇相关文章
20刀月费秒变API！Hermes一行命令就能用上Claude、ChatGPT订阅
两大开源Agent框架有硬核更新。Hermes Agent v0.14用一行命令把模型订阅变API，零成本驱动开发工具，还接入Grok。OpenClaw 5.18修复问题，适配Grok。20美元月费可喂饱工具链，打破生态闭环。
Insanely Fast Whisper：开源社区让音频转录速度提升19倍
Insanely Fast Whisper工具将OpenAI Whisper转录速度提升19倍，采用Flash Attention 2技术，零质量损失。它集成多语言支持、说话人分离等实用功能，还支持跨平台，免费运行。最初是基准测试demo，值得音频处理用户关注。
《动手写AI Agent》前言 · 先看完成品
作者因想搞懂 Agent 原理，且市面上缺系统学习资料，决定手写一份教程，即《动手写 AI Agent》。书中 Ling 是从零手写的编程助手，介绍了其 8 个应用场景、技术规格，还说明了适合读者与全书路线图。
东方理工团队提出HiDrop：重构MLLM计算路径，压缩90%视觉Token实现2.2倍加速
东方理工大学沈晓宇团队提出HiDrop，基于MLLM不同层功能差异，设计出延迟注入、凹金字塔式剪枝和提前退出的视觉Token压缩策略。实验显示，它能压缩约90%视觉Token，保持98.3%性能，实现训练和预填充加速。
Tabbit浏览器实测：AI终于学会帮我上网干活了
本文实测Tabbit浏览器，它刚正式发布且免费。与Arc、Atlas不同，Tabbit切换成本几乎为零，有智能标签整理、妙招功能、Agent智能代理等，还内置多个国内外大模型，但脚本妙招和智能标签整理有改进空间。
对谈零次方闵宇恒，我们应该怎么教本科生去创业？｜00后创业者系列
本文是对00后创业者闵宇恒的访谈。他25岁清华硕士在读，本科毕业一年带领具身智能团队获亿元级融资。文中介绍其创业经历、零次方机器人特色，探讨大学创业教育、具身智能发展等问题。
GPT-5刷屏吊胃口之际，英伟达发出暴论：小型语言模型才是未来
英伟达新论文指出，未来属于小型语言模型（SLM），挑战了智能体需用大型语言模型（LLM）的假设。SLM参数量低于100亿，有低延迟、低成本等优势，还给出从LLM到SLM迁移路线图。
大模型再爆弱点！旧记忆忘不掉，新记忆分不出，准确率暴降 | ICML'25
弗吉尼亚大学和纽约大学研究人员用「前摄干扰」概念设计测验PI - LLM，测试大语言模型（LLM）上下文检索能力。结果显示，随干扰增加，模型准确率对数下降至零，提示工程效果有限，需调整模型架构或训练范式。
【博客转载】CUDA Shared Memory Swizzling
文章讨论用swizzling技术处理CUDA共享内存bank冲突，它可重排索引映射避免冲突且不浪费内存。以矩阵转置为例，对比有冲突、填充、swizzling三种实现，还分析了swizzling和填充优缺点。
OpenAI很看好！首个SWE-1模型发布，软件开发或将提速99%
Windsurf发布首个前沿模型SWE-1，目标将软件开发提速99%。它不只能写代码，还能协助软件工程流程。有三个系列模型，SWE-1运行成本低，SWE-1-lite对所有用户开放，SWE-1-mini适用于低延迟场景。