「推理模型瓶颈」共找到 8503 篇相关文章
2张4090竟能本地微调万亿参数Kimi K2！趋境联合清华北航把算力门槛击穿了
仅需2 - 4张消费级显卡（4090），就能在本地对DeepSeek 671B乃至Kimi K2 1TB这样的超大模型进行微调。这得益于KTransformers和LLaMA - Factory两个国产明星项目联动，大幅降低成本，开启AI个性化定制时代。
锁定角色，「多主体」也可控！个性化文生图，给你PS般交互体验
LayerComposer革新个性化图像生成，能让用户如在Photoshop般操控元素位置、大小，解决传统方法交互性与多主体扩展难题。它有分层画布、锁定机制、模型–数据共设计三大特点，实验表现出色，未来将促进人机协同创作。
文档OCR新范式0.84 页/秒，吊打MinerU Qwen2.5VL
MonkeyOCR采用SRR三元组范式，简化多工具管道，避免整页文档处理低效率。与MinerU、Gemini 2.5 Pro等对比，性能表现优，处理速度达0.84页/秒，但对扫描件效果欠佳，架构含多模型，可通过特定地址测试。
聊聊AI应用架构演进
本文按AI应用架构演进路线，介绍每次演进增加的架构内容及相关技术，涵盖从简易架构到Agent模式等各阶段，还提及监控、推理性能优化等，助读者整理新技术，为探讨AI与传统应用架构异同做调研。
Mem0,用LLM给智能体解决记忆问题，开源
大模型训练后知识和记忆不再增加，智能体记忆能力发展不理想。国外Mem0针对AI记忆技术发表论文并开源，提出Mem0和Mem0g两种方案，在不同场景表现出色，已获多应用，还提供SaaS服务。
6个做AI和ML的奇技淫巧
作者整理了6个做AI和ML的技巧，如提前结束评估、超参数过度优化、精心挑选数据集等，指出现在90%的模型可能都用到其中不止一招，还介绍了自己用AI采集资讯发布到知识星球。
GPT-6 Astra 发布了，我却把 GPT 的订阅从 100 刀降到 20
9 月 1 日作者将 Codex 订阅从 100 美元降至 20 美元，两天后 OpenAI 发布 GPT - 6 Astra。作者降级是因大量用 K3、Qwen 3.8 和 GLM5.3 等。Astra 功能强大，但作者仍会让国产模型担主力。
RSI离我们有多远？这家中国团队给出了第一梯队的工程解
目前行业探讨大模型的RSI时，常陷入思维定势。EvoMap团队没有盲目跟风，而是提出极具现实意义的工程新路径，构建自进化智能体，让经验在网络流转，还以硬核数据证明其体系有效性。
1周半写64个PR、完成30%项目重构：一家成熟SaaS公司把Agent塞进研发全流程后
Calendly公开Agentic Engineering实践，Agent嵌入研发全流程，如审查需求、写代码、测试等。一周半内，Agent为IAM团队生成64个PR，完成30%项目重构。研发瓶颈从写代码转为判断力，强调好需求与护栏重要性。
少 61% Token、多10倍成功率，这个终端 AI 编程代理火了！
现在多数AI编程工具问题多，而在Github上火爆的`oh-my-pi`是运行在终端的AI编程代理，有哈希锚定编辑等实用功能，支持多模型，经基准测试效果好，还能解决实际开发痛点。