「实时推理」共找到 2352 篇相关文章
AI可观测行平台Lightrun，获7000万美元
AI可观测性平台Lightrun获7000万美元B轮融资，由Accel和Insight Partners领投。它改变传统监测工具局限，实现实时调试修复。连续三季成G2领域领导者，获众多企业信赖，发展迅猛。
脸谱心智陆弘远团队ACL 2026新作：别再给模型叠加「高级词」了！模型更爱听「大白话」
脸谱心智与香港中文大学科研人员中稿 ACL 2026 的新工作提出 Adam’s Law，即文本频率定律，揭示文本频率对模型训练及推理的重要性，还给出工程解法，实验效果显著，为行业带来新思路。
让YOLO飞起来：从CPU到GPU的配置指南
文章指出默认安装的YOLO用CPU计算，处理大量图像或实时检测任务效率低。详细介绍将YOLO从CPU模式切换到GPU模式的步骤，对比性能，还给出常见问题解决办法，能显著提升运行效率。
国产开源LLM迎来大爆发的一周：Kimi、腾讯、快手、美团、面壁智能
国产开源大模型迎来爆发，快手、月之暗面、美团、面壁智能、腾讯等接连发布新模型，如快手Keye-VL - 1.5 - 8B刷新视频理解SOTA，美团LongCat - Flash - Chat推理快成本低等。
苹果OS全家桶12年最狠升级！AI入侵一切，唯独Siri没更
春季WWDC开幕，苹果OS全家桶迎十多年最大版本升级，统称OS 26。苹果AI进化，支持实时翻译、看屏搜物等。开发者工具升级，三行代码可调用苹果AI。各系统在设计、功能上均有革新。
Claude：Profile and Preference
文章借与Claude对话，探讨Profile和Preference概念，分析其区别联系，指出AI时代借助大模型理解用户的变化，还谈及数据源、实时个性化、偶然性、广告变革等问题，最后Claude为作者生成简易画像。
WAIC抢先爆料：金融“黑马”大模型超DeepSeek刷新SOTA，论文已上线
WAIC期间，蚂蚁数科金融推理大模型发布会未开，论文已上线。其新模型Agentar - Fin - R1有8B和32B版，在金融测评集超DeepSeek等，还兼顾专业与通用，蚂蚁数科还提出评测基准Finova。
深度解读黄仁勋的万亿美元蓝图
2026年3月16日，黄仁勋在GTC演讲中称AI计算需求至少达1万亿美元，实际或更高。他回顾AI三次拐点，介绍推理时代超级计算机Vera Rubin，还发布OpenClaw等软件，成立开源模型联盟，展示各行业应用，强调共封装光学重要性。
豆包19亿次互动背后的技术真相：春晚级体验是如何炼成的？
2026 年春晚 AI 元素亮眼，豆包 AI 互动达 19 亿次。火山引擎作为独家 AI 云合作伙伴，用智能视频云等技术打造节目效果，解决视频画质、空间逻辑、机器人互动延迟等难题，还保障全民互动和实时字幕。
12ms！一个仅8M的语音停顿检测模型
语音助手准确判断用户是否说完是挑战，Smart Turn将决策过程缩至12毫秒。其v3.1版有改进，新增数据集提升英语识别准确率，推出未量化版本推理更快，8MB模型性能优，已在HuggingFace开源。