搜索：合成文档微调

「合成文档微调」共找到 789 篇相关文章

刚刚，DeepSeek 文档更新，Agent 开发者要注意这个字段

DeepSeek在官方API文档给出thinking mode和tool call结合样例，把模型中间思考过程成Agent系统需管理部分。关键字段`reasoning_content`从调试信息成协议流程一部分，影响状态管理、多模型适配等。

AI研究工程师Manthan Gupta复盘Clawdbot记忆机制，其记忆用MD文档存档，有双层记忆系统。系统有独特管理方式，如压缩、记忆刷新等，坚持透明度、搜索、持久性、混合等原则。

文章分享RAKG框架，解决传统知识图谱构建在文档级构建中的局限。对比GraphRAG的不足，阐述RAKG创新点、框架结构，用MINE数据集实验，显示RAKG准确性等指标优于GraphRAG和KGGen。

Sakana AI创始人Llion Jones是Transformer发明者之一，他警告当前Transformer虽成功，但业界或重蹈RNN覆辙，无数微调是浪费时间。他认为现在LLM非通用智能，已转向探索生物学启发的新架构。

现代合成生物学教父George Church在采访中分享对生物技术的看法，认为基因测序等技术让大突破不远。预计2050年解决老龄化问题，体细胞疗法或让人‘返老还童’，还谈及复活物种、‘镜像生命’等，强调遗传咨询价值。

英伟达开源NeMo AutoModel，基于Hugging Face Transformers v5，不改代码API，添一行import就能更快速微调MoE模型。实验显示，它能提升3.4 - 3.7倍训练吞吐，减少29% - 32% GPU显存占用。

人工智能领域正从「模型微调」向「上下文工程」转变。西湖大学MAPLE实验室齐国君教授团队提出基于「共识机制」的提示词组进化算法C - Evolve，能突破单一提示词性能局限，提升系统整体性能。

在ChatGPT引领的AI革命中，大语言模型面对专业复杂文档常“束手无策”。Doc-Researcher提出三位一体解决方案，构建M4DocBench评测，性能远超现有方案，还适用于多产业场景。

Claude母公司Anthropic联合英国AISI和图灵研究所研究发现，仅250份恶意文档就能给不同规模大模型植入“后门”漏洞，打破了以往对大模型数据中毒的认知，给厂商提了个醒。

Transformer作者之一创立的SakanaAI推出Text-to-LoRA（T2L），简化模型适配流程，省却繁琐微调。T2L参数压缩率达80%仅降1.2%准确率，零样本场景平均准确率78.3%超现有SOTA方法，开启“一句话定制模型”时代。