搜索：推理模型训练

「推理模型训练」共找到 8583 篇相关文章

2张4090竟能本地微调万亿参数Kimi K2！趋境联合清华北航把算力门槛击穿了

仅需2 - 4张消费级显卡（4090），就能在本地对DeepSeek 671B乃至Kimi K2 1TB这样的超大模型进行微调。这得益于KTransformers和LLaMA - Factory两个国产明星项目联动，大幅降低成本，开启AI个性化定制时代。

LayerComposer革新个性化图像生成，能让用户如在Photoshop般操控元素位置、大小，解决传统方法交互性与多主体扩展难题。它有分层画布、锁定机制、模型–数据共设计三大特点，实验表现出色，未来将促进人机协同创作。

特斯拉官宣「世界模拟器」，可模拟、合成自动驾驶的「孪生世界」，生成不同视角和长尾场景。它基于端到端神经网络，有学习人类价值观等优势。还能用海量数据解决难题，输出可解释中间结果，为自动驾驶和擎天柱训练服务。

MonkeyOCR采用SRR三元组范式，简化多工具管道，避免整页文档处理低效率。与MinerU、Gemini 2.5 Pro等对比，性能表现优，处理速度达0.84页/秒，但对扫描件效果欠佳，架构含多模型，可通过特定地址测试。

本文按AI应用架构演进路线，介绍每次演进增加的架构内容及相关技术，涵盖从简易架构到Agent模式等各阶段，还提及监控、推理性能优化等，助读者整理新技术，为探讨AI与传统应用架构异同做调研。

作者整理了6个做AI和ML的技巧，如提前结束评估、超参数过度优化、精心挑选数据集等，指出现在90%的模型可能都用到其中不止一招，还介绍了自己用AI采集资讯发布到知识星球。

9 月 1 日作者将 Codex 订阅从 100 美元降至 20 美元，两天后 OpenAI 发布 GPT - 6 Astra。作者降级是因大量用 K3、Qwen 3.8 和 GLM5.3 等。Astra 功能强大，但作者仍会让国产模型担主力。

现在多数AI编程工具问题多，而在Github上火爆的`oh-my-pi`是运行在终端的AI编程代理，有哈希锚定编辑等实用功能，支持多模型，经基准测试效果好，还能解决实际开发痛点。

DeepMind掌门人Demis Hassabis在专访中谈到AGI发展，认为当前技术距AGI可能差一两个大突破，预计2030年左右实现。还探讨了记忆、Agent、推理等问题，提及开源、多模态等情况，展望了生物领域虚拟细胞等。

当前大模型发展对计算硬件需求增长，数据搬运成隐性开销。中科院团队成果Ouroboros实现晶圆级芯片，解决数据搬运问题，虽面临挑战，但性能与能效表现显著，验证了“存算一体+晶圆级集成”路线可行性。