搜索：推理框架开发

「推理框架开发」共找到 4693 篇相关文章

jiSGLang集成ktransformers：2TB内存运行Kimi K2 Thinking模型

对于内存多但GPU资源有限的用户，SGLang集成ktransformers的CPU内核，支持直接运行Kimi K2 Thinking模型。它无需等量化，还能微调，虽性能与GPU方案有差距，但给用户新选择。

OpenAI首个浏览器Atlas背后技术秘密公开，关键创新是全新架构OWL。它将Atlas应用与Chromium运行时分离，带来即时启动等优势，还为AI智能体用例奠定基础，重构了UI体验。

特斯拉前AI总监Andrej Karpathy发布开源项目nanochat，可搭建简易版ChatGPT复现模型。约8000行代码，成本低，功能多。卡帕西称手写代码，用Agent效果差，项目受网友热赞。

腾讯混元发布并开源原生多模态生图模型混元图像3.0，参数规模80B，是参数量最大的开源生图模型，也是首个开源工业级原生多模态生图模型，效果对标业界头部闭源模型。文中介绍其技术方案、测评效果等。

2025年深度学习成科技顶流，市场规模飙升。其发展受算力、数据、算法推动，应用于多领域。核心趋势包括Transformer架构发展、低代码开发等，同时也面临伦理、人才短缺等挑战。

这是虚构故事，Meta用12万张英伟达H100训练“LLaMA 4 Maverick”，却被中国杭州DeepSeek团队用2000张GPU打败。项目失败成丑闻，扎克伯格成立实验室四处收购遇冷，新负责人管理混乱，实验室乌烟瘴气。

今天凌晨2点，OpenAI宣布收购全球顶级产品开发数据分析平台Statsig，其创始人将加入并任应用部门CTO。Statsig功能强大，能高效处理事件。彭博称收购价达11亿美元。

在SIGGRAPH 2025上，英伟达发布「物理AI」全家桶。展示完整生态，含新硬件、仿真平台和AI模型。如RTX PRO 6000服务器显卡性能涨45倍，还推多款模型，应用于多领域，推动物理AI落地。

dots.ocr是多语言开源文档解析器，把布局检测和内容识别统一在视觉语言模型中，虽LLM仅1.7B参数，却达SOTA性能。介绍了其预训练三阶段及SFT阶段关键策略。

互联网任务重复繁琐，香港理工大学研究人员从架构、训练和可信性等角度，总结WebAgents代表性方法，梳理研究进展。WebAgents能根据用户指令完成网页任务，其发展预示人机关系新纪元。