「超低延迟」共找到 3057 篇相关文章
Mini-Omni-Reasoner：实时推理，定义下一代端到端对话模型
现有端到端对话模型推理能力未解锁，因深度思考带来延迟。为此提出 Mini - Omni - Reasoner，采用边思考边表达范式，突破‘要么快，要么准’困境，还设计了数据合成管线和五阶段训练方法，实验证明其性能提升明显。
18岁天才少年，登上Nature封面！
DeepSeek-R1荣登Nature封面，成史上首个经严格同行评议大模型。18岁天才少年涂津豪以实习生身份参与，其从高中生到Nature作者的经历堪称传奇。他还改造Claude 3.5，开源项目获15k多星，还对AGI发表思考。
奥数金牌只是序章！OpenAI谷歌彻底打脸预言家，AI巨浪势不可挡
2022年专家预言AI到2025年赢得IMO金牌概率低，结果OpenAI和谷歌DeepMind的LLM提前摘金。此前多项AI基准测试预测也失准，AI发展远超预期。GPT - 5降低使用门槛，群体智能时代到来，各机构需重新思考生存之道。
DeepSeek刚提到FP8，英伟达就把FP4精度推向预训练，更快、更便宜
DeepSeek提及针对国产芯片的FP8量化设计，引发对大模型量化策略关注。不久后英伟达发力低精度量化，将NVFP4策略拓展到预训练阶段，其方案能解决核心挑战，实验证明NVFP4在大规模训练中可行。
本周推荐的5个超级6的Github开源项目！
文章推荐了5个超棒的Github开源项目。有轻量全能、自带阅后即焚的pastebin工具microbin；容器与K8s管理利器Podman Desktop；开源投屏神器Escrcpy；强大易用的国产建站工具Halo；跨平台AI笔记神器NoteGen。
ICCV 2025 | EPD-Solver:西湖大学发布并行加速扩散采样算法
扩散模型成生成任务主流技术，但逐步去噪机制致推理延迟大。西湖大学提出 EPD - Solver 算法，融合三类加速思路优势，可减少积分误差、提升生成质量，还能作插件集成，突破扩散模型速度与质量权衡瓶颈。
VLA爆发！从美国RT-2到中国FiS-VLA，机器人「即知即行」的终极进化
2025年具身智能爆火，VLA模型成核心。从美国RT - 2到中国FiS - VLA，VLA硬核进化。谷歌、微软等有重要成果，中国智平方等企业也不断创新，FiS - VLA性能超现有方法，VLA正重塑机器人与人类交互未来。
当微信支付开放MCP之后，我却有一点后怕。
微信开放微信支付MCP，补上智能体链路支付短板，使用门槛低。作者分享体验，做了多个案例，如一周健康餐智能体。但全量开放或带来风险，如AI自主完成灰产闭环、AI骗AI钱等。
微软刚发布Mu模型：支持Windows智能体，小参数跑出10倍性能
今天凌晨微软发布创新小参数模型Mu，3.3亿参数性能比肩Phi - 3.5 - mini，体量小10倍，离线NPU笔记本每秒超100 tokens响应。它支持Windows智能体，架构有多项创新，经训练优化后智能体表现出色。
一句话生成任务专属LoRA！Transformer作者创业公司颠覆LLM微调
Transformer作者之一创立的SakanaAI推出Text-to-LoRA（T2L），简化模型适配流程，省却繁琐微调。T2L参数压缩率达80%仅降1.2%准确率，零样本场景平均准确率78.3%超现有SOTA方法，开启“一句话定制模型”时代。