「高效推理」共找到 2494 篇相关文章
国产开源LLM迎来大爆发的一周：Kimi、腾讯、快手、美团、面壁智能
国产开源大模型迎来爆发，快手、月之暗面、美团、面壁智能、腾讯等接连发布新模型，如快手Keye-VL - 1.5 - 8B刷新视频理解SOTA，美团LongCat - Flash - Chat推理快成本低等。
我国科研团队，突破了存算一体技术瓶颈
AI浪潮倒逼半导体产业创新，存算一体技术应运而生。但该技术应用存在问题，排序难题制约其发展。北大团队国际首次实现基于存算一体技术的高效排序硬件架构，成果发表在《自然∙电子》。
WAIC抢先爆料：金融“黑马”大模型超DeepSeek刷新SOTA，论文已上线
WAIC期间，蚂蚁数科金融推理大模型发布会未开，论文已上线。其新模型Agentar - Fin - R1有8B和32B版，在金融测评集超DeepSeek等，还兼顾专业与通用，蚂蚁数科还提出评测基准Finova。
深度解读黄仁勋的万亿美元蓝图
2026年3月16日，黄仁勋在GTC演讲中称AI计算需求至少达1万亿美元，实际或更高。他回顾AI三次拐点，介绍推理时代超级计算机Vera Rubin，还发布OpenClaw等软件，成立开源模型联盟，展示各行业应用，强调共封装光学重要性。
比SOTA快9倍，谷歌DeepMind时空重建，把视频变成时空搜索引擎
谷歌DeepMind联合团队发布D4RT时空重建框架，颠覆传统视频转3D方法。它按需提问，像搜索引擎，处理动态视频高效。内部结构分编码、解码两步，速度快，还发明聪明收割机算法，在多项测试中表现优异。
12ms！一个仅8M的语音停顿检测模型
语音助手准确判断用户是否说完是挑战，Smart Turn将决策过程缩至12毫秒。其v3.1版有改进，新增数据集提升英语识别准确率，推出未量化版本推理更快，8MB模型性能优，已在HuggingFace开源。
告别VAE压缩损耗，南京大学用DiP让扩散模型回归像素空间，实现10倍加速与SOTA级画质
南京大学、腾讯优图实验室和新加坡国立大学发布DiP框架，即将开源。该框架不依赖VAE，仅增0.3%参数量，推理提效10倍，在ImageNet获1.79的FID分数，解决扩散模型在像素空间难兼顾质效的问题。
AI全国榜单爆冷，全网吃瓜大狂欢！这家黑马竟靠DeepSeek杀进全国TOP 2
QuestMobile报告显示，夸克月人均使用次数居AI搜索第一，微博智搜凭DeepSeek排第二，腾讯「新闻妹」第三。实测发现，夸克产品力强，微博智搜让信息获取高效，新闻妹有划词提问等功能，AI搜索正重塑格局。
刚刚，智谱开源了他们的最强多模态模型，GLM-4.5v。
智谱接连开源GLM - 4.5和GLM - 4.5V，后者为多模态模型，总参数106B，在42个评测基准中41个达到SOTA。经测试，它视觉推理强、速度快，还有视频理解等功能，API定价良心，体现持续开放精神。
全网开测GPT-oss！技术架构也扒明白了
全网开测GPT-oss，它登顶开源模型王座，性能比肩o3-mini、o4-mini，适合本地推理。网友探索出多种用法，还推出Pro版。其架构也被扒出，官方介绍了微调方法，吴恩达等大佬也参与测评。