搜索：模型自主进化

「模型自主进化」共找到 8253 篇相关文章

Transformer 中的专家混合模型 (MoE)

文章介绍Transformer中专家混合模型（MoE），它能解决稠密模型扩展瓶颈。阐述其优势，如计算高效、适合并行等，还介绍在transformers库中支持稀疏架构的演进，包括权重加载重构、专家执行后端、专家并行及训练方案。

论文《Automated Design of Agentic Systems》提出让Agent扮演设计师，“元代理”能自动生成新代理设计方案。用编程语言作设计空间，实现“设计自由”。实战中，AI设计的Agent全领域超越人类，还具备知识迁移能力，未来或有自主进化的AI生态。

文章指出大模型和人类大脑归纳规律路径不同，AI追求精确但脆弱的拟合，人追求粗糙但不变的压缩。大模型在可收敛系统表现惊艳，不可收敛系统则崩盘，未来AI产品核心是打造可收敛封闭环境。

前OpenAI创始成员Andrej Karpathy发文分享ChatGPT模型使用指南，点出关键事实，如o3适合重要任务。社区热烈讨论，专业用户分享策略，还对o4 - mini等模型表现给出反馈。

作者Vicki Boykis分享本地运行AI模型体验，指出如今本地模型性能提升大，像GPT - OSS、Gemma 4系列表现出色。还介绍运行本地智能体流程的设置，虽有问题，但优势多，生态值得投资。

大模型在医疗领域应用有医疗知识覆盖不足、幻觉风险高、推理能力欠缺三大难题。阿里达摩院开源统一多模态医学大模型灵枢，介绍其数据体系、清洗流程及四阶段强化训练方法。

网友发现 MiniMax 模型不认识「马嘉祺」，不同接口和平台均能稳定复现。这或因训练数据清洗和分布问题，使特定词汇生成异常。论文指出 tokenizer 机制缺陷或致模型异常，问题不会随参数规模增大消失。

普林斯顿大学等机构研究者发布首个自进化智能体综述，为领域建统一理论框架和路线图。综述给出形式化定义，围绕What、When、How、Where构建分析设计框架，还探讨评估范式并指明未来方向。

掌握内幕的草莓哥爆料，Ilya正构建以TTT为核心的小型推理引擎。他预见传统大模型的死穴，SSI将TTT概念落地，其引擎在数据效率等方面优势明显。SSI获投资，本月或发新模型。

文章详细介绍大型语言模型（LLM）微调知识与实践，包括模型结构、参数量等知识，以及Prompt工程、数据构造、LoRA微调等技术点。还给出微调实践流程，介绍相关平台和框架，如星云、TuningFactory等。