「低延迟」共找到 1124 篇相关文章
为什么 DeepSeek 大规模部署很便宜，本地很贵
文章探讨了DeepSeek-V3大规模服务便宜但本地运行贵的原因。指出推理服务存在吞吐量和延迟的权衡，受批处理大小影响。还分析了不同模型需大批次的原因，如专家混合模型、大型管道模型等。
刚刚，全网最猛AI视频模型免费了！我们手搓了一段「牛来」，效果绝了
AI短剧火爆，但创作者面临成本高痛点。Agnes Video 2.5系列模型上线Pavo平台，成本低效果好，其Flash版免费。Pavo还有「无限画布」和「Agent创作模式」，降低返工成本，实现低门槛创作。
毫秒响应延迟！开源统一语音对话模型Voila
Voila是开源统一语音对话模型，能以自发、实时且有情感的方式与人类互动。它采用全新端到端架构，响应延迟仅195毫秒，支持超百万种预构建声音，适用于多种语音应用。
免费开源低成本的3D动作捕捉系统
FreeMoCap是无标记点3D动作捕捉系统，用普通USB摄像头就能实现研究级全身动作捕捉，支持单/多相机模式，输出3D骨骼数据，可导入Blender等工具，具有低成本、开源可扩展等优势。
吴恩达来信：AI 速度带来的价值被低估了
吴恩达指出，AI 不仅能降低任务执行成本，还能显著加快执行速度，其在创造商业价值方面的重要性常被低估。以编写代码、借贷审批等为例，说明提速能带来新价值，企业应关注可提速环节带动增长。
OpenAI和Anthropic罕见互评模型：Claude幻觉明显要低
OpenAI和Anthropic罕见合作，互相授予API权限评估模型安全与对齐情况并发布报告。双方派出多模型参与，从指令层次、越狱、幻觉、欺骗策略等方面评测，呈现各模型优缺点。
流片成功率低、研发成本高昂，EDA如何助力芯片产业破局？
全球半导体市场规模增长强劲，但芯片产业面临流片成功率低、研发成本高的挑战。西门子EDA全球副总裁凌琳提出，未来半导体产业突破需聚焦三大方向，核心是‘全面数字孪生’，并阐述了实现路径和布局策略。
GraphRAG太慢LightRAG延迟高？华东师大新方法一招破解双重难题
华东师大李翔老师带领的Planing Lab团队推出E²GraphRAG方法，解决GraphRAG索引慢、LightRAG查询延迟高的问题。该方法用SpaCy识别实体，结合图和树查询，在构建和查询时间上表现出色。
华为曝光两大黑科技！打破推理延迟魔咒，大模型从此「秒回」
华为通过FusionSpec和OptiQuant两大技术创新，对MoE模型进行推理优化。FusionSpec依托昇腾特点，将投机推理框架耗时降至1ms；OptiQuant支持灵活量化，为大模型推理提供高性价比。
开源AI开发生态大洗牌：低代码平台逆袭，传统LLM框架日渐式微
第十届527蚂蚁技术日，蚂蚁对现有开源生态全面剖析，发布2025大模型开源生态全景图。分析显示开源生态有三个主导技术赛道，还总结出七大趋势，为从业者提供生态演进规律参考。