「推理缓存优化」共找到 3046 篇相关文章
本地运行OpenAI Whisper语音识别模型，Unity3d环境下高性能离线转写解决方案
这是为whisper.cpp提供的Unity3D绑定库，能在本地设备高性能运行OpenAI Whisper自动语音识别模型推理。支持多语言识别与翻译，有不同大小模型，可本地运行，还介绍了使用方法。
Claude Opus 4.1被曝即将发布！Anthropic靠两大客户API收入超OpenAI
Claude Opus 4.1被曝正在内部测试，或重点提高推理和规划能力。Anthropic过去7个月ARR涨至50亿美元，API收入超OpenAI。但它收入依赖AI编程，面临GPT - 5、Grok等竞争。
从文心开源谈起，论大模型发展新生态
6月30日百度宣布开源ERNIE 4.5即文心4.5系列模型，实现预训练权重+推理代码完全开源。文心团队提出创新架构，增强多模态理解能力。今晚7:30，CSDN邀专家深度解读文心开源及行业趋势。
扒一扒Meta全新大模型Muse Spark里藏着的PDR技术
Meta发布闭源大模型Muse Spark及‘沉思模式’，背后藏PDR推理技术。该技术通过‘并行起草+精炼’突破性能瓶颈，对比传统长CoT范式优势明显，在AIME竞赛题目测试中准确率显著提升。
一百万亿Token里的AI现状：OpenRouter和a16z重磅研究带你透视AI江湖
OpenRouter和a16z发布重磅研究，用100万亿Token绘制AI实景地图。2025年推理模型崛起，开源模型流量份额攀升，编程与角色扮演需求大，还揭示了用户留存的“灰姑娘效应”等，展现多元AI世界。
智源悟界·Emu3.5发布，开启“下一个状态预测”！王仲远：或开启第三个 Scaling 范式
2025年智源发布悟界·Emu3.5，在“Next-Token Prediction”基础上实现“Next-State Prediction”。它能力全面提升，或开启第三个Scaling范式，还在预训练、强化学习、推理加速上有技术创新。
ChatGPT智能体正式发布，多个创业赛道昨夜无眠
OpenAI正式发布ChatGPT Agent，将思考与执行能力统一，可接管电脑，能处理工作和生活多种事务。它优化后能力达SOTA，但也有风险。这或重塑互联网，让Agent创业者重新审视竞争力。
AI Coding 领域的又一黑马，出现了。
文章介绍了 Vibe Coding 概念走红，提及硅谷合伙人观点。着重介绍 YouWare，其创始人明超平认为 AI 时代需编程分享社区。YouWare 有极简部署、页面优化等功能，虽不完善，但有望成行业黑马。
深入原子世界，他在寻找材料失效的原因
文章介绍了美国宾夕法尼亚州立大学副教授杨洋的材料研究。他利用先进电子显微技术，研究材料在极端环境下微观过程，如空位、虫洞腐蚀和短程有序，旨在理解材料失效机制，推动材料设计优化。
ICML 2026 现场｜九篇 Spotlight 论文，透视 AI 最前沿
7月7日，ICML 2026正会首日，雷峰网精选九篇Spotlight论文，涵盖生成模型、智能体系统等多领域。如SDEVI框架解决不规则时间序列生成难题，MASpoB让多智能体提示优化可行等。