「推理优化与部署」共找到 3538 篇相关文章
Java 30周年献礼：新LTS版本Java 25，服务器内存砍掉22%，AI开发起飞
2025年9月16日，Oracle推出Java 25，这是继JDK 21后首个LTS版本，官方提供八年支持。它含18个JDK增强提案，目标是优化AI运行、安全防护等，在省内存、提速度、简语法等方面均有显著改进。
OpenAI 不想再「跪着」买显卡了
《金融时报》消息，OpenAI 正和博通合作自研代号“XPU”的 AI 推理芯片，2026 年量产。其不仅在芯片发力，还在硬件、应用和算力基建多线出击，不过自研芯片也面临资金、人才和软件生态等问题。
OpenAI高管自爆：Scaling不死，GPT-5「双轴训练」撕开智能天花板
OpenAI首席运营官Brad Lightcap在对话中揭秘GPT-5，其能自主判断是否深度推理再作答，体验全面升级。训练方式有后训练，Scaling Law仍成立，未来从两轴改进。还探讨了AGI、应用场景等。
追剧不断网，可能背后有个AI在加班，故障诊断准度破91.79%
中兴通讯和中国移动团队针对电信网络故障诊断难题，提出 TN - RCA530 基准和 Auto - RCA 框架。测试多个大模型，初始准确率低，经框架优化后，Gemini - 2.5 - Pro 准确率从 58.99% 升至 91.79%，超人工水平。
UNC | 发布Bifrost-1，构建“最强大脑”与“顶级画师”的桥梁，低成本实现“文生图”自由
随着AI发展，打造能推理又能创作的系统成为焦点。但让LLM学习视觉创作面临训练成本高和能力受损问题。BIFROST - 1框架在MLLM和扩散模型间建通信信道，解决核心痛点，实验表现出色。
LLM加速利器LMCache，极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件，能降低首次响应延迟、提升吞吐量，适用于长上下文场景。它将KV缓存存于多级存储，跨服务实例复用任意重复文本的KV缓存，节省GPU算力，与vLLM结合优化显著。
解析天花板？TextIn xParse如何为RAG打造「零损耗」知识管道
在AI应用发展中，LLM与RAG系统成核心引擎，但项目落地时模型表现常难达预期，根源在于文档解析质量。TextIn xParse能为RAG打造‘零损耗’知识管道，本文从多方面对其解析能力进行了解读。
扩散架构 or「NoThinking」，AI 对话的「1Hz 壁垒」如何突破？
当红通用人形机器人公司 1X 的 AI 副总裁 Eric Jang 提出「智能频谱」概念，阐述当前 AI 面临的「1Hz 壁垒」及实现「Ultra Instinct」能力的先决条件。不同推理方案有望解决部分问题，但通用智能体仍有瓶颈。
革命性突破！Windows-MCP 开源：AI 助手直接操控实体电脑，告别按键精灵！
在AI驱动的桌面自动化领域，传统工具部署复杂且性能受限。最近GitHub开源的Windows - MCP工具，能让AI助手与Windows UI原生交互，可进行点击、输入等操作，支持Windows 7 - 11，无需传统计算机视觉技术。
拥有Github 的微软终于出手，发布一键生成全栈应用的GitHub Spark！
微软发布GitHub Spark，能以自然语言生成全栈应用并一键部署，默认用Claude Sonnet 4。它遵循微应用理念，有强大功能体系，深度集成GitHub。开发者看法不一，目前向Copilot Pro+用户开放，或改变市场格局。