「延迟导入」共找到 231 篇相关文章
隐私优先的本地匿名化小模型：在数据离开设备前保护个人信息
最强 AI 模型在云端，安全数据在本地，这一矛盾困扰着想用 AI 处理敏感信息的人。Freysa 团队提出解法，不重写提示，只替换敏感信息，用小模型实现精准匿名化，有实用价值。
开源TTS离线工具！浏览器本地运行，仅300MB模型大小，零服务器依赖，隐私0泄露！
传统TTS工具依赖云端，隐私风险高、延迟大且费用高。而Streaming-KokoroJS是基于Kokoro - 82M开发的开源TTS工具，能在浏览器本地运行，零服务器依赖，隐私零泄露，具备多项实用功能。
Memvid：把你的文档库变成一个小巧的视频，还能瞬间搜出你想要的！
传统向量数据库因高成本和复杂运维让开发者却步。开源项目Memvid将文本数据存入视频文件，能高效检索，解决存储冗余、检索延迟和网络依赖问题，使用简单，虽处概念原型阶段但值得尝试。
首创TTFA指标！港大团队开源FASTER，让VLA模型真正实现「即刻响应」
港大团队提出FASTER，重新审视动作分块策略的反应延迟问题，提出快速动作采样方法。它即插即用，已开源。通过Horizon - Aware Schedule等创新，降低TTFA、提高闭环频率，实验显示能显著提升VLA反应能力。
重构线性视觉Transformer，精度与效率双平衡 | CVPR'25
南洋理工、北航与合工大联合提出CARE Transformer，以非对称解耦建模局部与全局，降低计算开销、提升特征表达。实验显示其在移动端低延迟高精度，打破“效率与精度不可兼得”困局。
单张4090跑到30fps，范浩强团队让VLA实时跑起来了
Dexmal原力灵机团队在RT - VLA论文中公布，常用Pi0级30亿参数VLA模型在单张RTX 4090上最快能跑30fps。他们深入分析优化模型，成果已开源，还设计了未来控制框架。
Meta最新REFRAG框架引爆RAG圈！KV缓存暴降90%，速度狂飙30×
Meta推出REFRAG框架解决RAG难题。它能在不修改解码器参数下压缩上下文、复用文档向量等。实验显示，它降低KV缓存、加速TTFT，在多任务表现佳，为大模型与知识库结合提供新范式。
港科联合港中文提出AdaCtrl，自适应可控Reasoning，可降10~90%
港科联合港中文提出AdaCtrl，解决LLM推理的过度思考、算力浪费和响应延迟问题。它有自适应和用户控制两种模式，通过两阶段训练法实现目标，实验效果好，未来或拓展到多领域。
抢疯了！AI宠物翻译器：800多块，预售2万单
PettiChat宠物翻译器售价800多，预售2万单。它能将猫狗叫声转成句子，翻译延迟1.2秒，还具备位置追踪、安全警报和声音克隆功能。其靠大模型的声音识别和情绪推理系统实现翻译。
Karpathy又双叒叕发新概念了，这次我替你找到了那个产品
Andrej Karpathy提出将LLM算力用于建知识库，引发关注但搭建有门槛。网易有道新出的有道宝库功能类似，能自动理解整理资料，有追问、多模态输出等功能，还打通翻译链路，目前免费内测。