搜索：大模型推理系统

「大模型推理系统」共找到 9225 篇相关文章

一文读懂：GPU到底是怎么工作的？

文章详细介绍GPU工作原理，对比其与CPU差异。指出GPU擅并行计算、能解决复杂问题，还分析FLOPS、延迟、内存等因素对性能的影响，最后讲了GPU通过多线程和超量订阅获高吞吐量。

DeepSeek悄悄更新V3.1，官方仅提及上下文长度拓展至128K。实测其代码能力与前端审美提升，逻辑推理也有进步，在编程等个别场景能硬刚GPT - 5，但处理复杂任务还有距离，更新不大却有进步且降价。

今天凌晨微软官网发布5种常用Agent模式助用户开发自动化AI员工。智能体比传统自动化工具更具优势，能推理协作等。各模式都有应用案例，且Azure AI Foundry支持多Agent模式开发。

dots.ocr是多语言开源文档解析器，把布局检测和内容识别统一在视觉语言模型中，虽LLM仅1.7B参数，却达SOTA性能。介绍了其预训练三阶段及SFT阶段关键策略。

GPT-5上线后遇冷，OpenAI直接关闭既往所有型号，让网友不满。原因是GPT-5人机感重，缺乏写作创意和情感共鸣。无奈之下，奥特曼宣布付费用户可切换回4o，同时会继续更新GPT-5。

世界是动态变化的，AI 模型需具备在线学习能力，领域提出适应性遗憾值指标。现有算法通用性不足，南京大学周志华团队研究具有双重自适应性的通用算法，提出元 - 专家框架等，还研究了在线复合优化问题。

飞行器气动压力分布获取依赖风洞试验或数值模拟，多源数据差异为气动数据重构带来挑战。本研究提出增强型多保真神经网络，通过差分运算提升模型泛化精度，在跨声速压力分布重构中效果显著。

本文综述人工智能赋能计算力学框架发展与现状，指出纯数据驱动、物理信息神经网络和算子学习方法虽有潜力，但在鲁棒性等方面有挑战。阐述四个研究方向，为复杂物理系统建模等开辟新途径。

文章聚焦AI实践应用，以后端开发为例，介绍用AI编码实现需求的流程，涵盖工程结构、各层代码生成等。还分析AI编程问题，提出解决方案，给出生产案例，最后展望AI在研发中的应用前景。

吴恩达指出，AI编程助手使写代码变快，‘决定做什么’成新瓶颈，即‘产品管理瓶颈’，产品经理比程序员更稀缺。他强调用户同理心和心智模型，认为软件开发正从技术驱动转向价值驱动。