「预训练框架」共找到 3490 篇相关文章
对话原力灵机周而进：模型2.4B就够用，关键是“具身原生”；能闭环才是最高效方法
原力灵机推出首个具身原生模型产品DM0，仅2.4B参数，却能支撑实时处理画面与真机进化。其合伙人周而进称要走具身原生路线，还介绍了数据采集、模型训练等多方面内容及公司发展规划。
AI Agent 记忆系统：从短期到长期的技术架构与实践
随着 AI Agent 应用发展，记忆系统成为构建实用 AI Agent 系统的关键技术。文章介绍了记忆基础概念、Agent 框架集成记忆系统的架构，阐述了短期记忆的上下文工程策略和长期记忆技术架构及集成，还分析了行业趋势与产品对比。
斯坦福&英伟达提出新范式：推翻Scale Law，在“推理”阶段自我进化，超越人类专家
斯坦福和英伟达提出 TTT - Discover 新范式，允许模型在测试时继续训练，针对难题‘进化’。它设计了自适应熵目标函数和 PUCT 状态复用组件，实验在多领域碾压人类专家与同行，但在部分领域落地有局限且计算成本高。
OpenAI被曝瞄准AI音乐赛道商业化，Suno首当其冲
据悉，OpenAI已和艺术学院合作许久，不久将进军AI音乐。它正与茱莉亚学院学生合作标注乐谱用于模型训练，还可能探索To B市场。此前OpenAI就有音乐模型尝试，此次或因Suno盈利佳而重拾音乐梦，Suno恐受冲击。
长上下文窗口、Agent崛起，RAG已死？
技术迭代下“RAG已死”论调出现，向量数据库Chroma创始人主张用上下文工程框架取代对“RAG”的狭义依赖。文章梳理业界不同观点，有人认为RAG在进化，有人称其成工程学科，也有人觉得会被Agent和长上下文取代。
登顶Hugging Face GAIA全球榜首！中兴超级智能体终结「AI黑盒」时代
中兴通讯研发的超级智能体Co - Sight 2.0登顶Hugging Face GAIA全球权威榜单。它解决传统智能体痛点，有全链路可信计算框架等创新架构，其智能体工厂和开放标准助力构建生态，展现了智能体产业落地潜力。
Thinking Machines又发高质量博客：力推LoRA，不输全量微调
Thinking Machines 博客力推 LoRA 并与全量微调对比。研究发现小数据量任务中 LoRA 与全量微调效果接近，大数据量稍吃力，强化学习中低秩 LoRA 也能接近全量微调。还揭示了 LoRA 关键要素、超参数规律等。
Thinking Machines新发现：Lora不是权宜之计，哪怕秩低到 1，也能匹敌全参数微调
Thinking Machines和John Schulman新研究刷新对LoRA的认知，实验显示正确使用时它能匹敌全量微调。团队系统研究训练集与参数关系，有层选择、学习率等关键发现，还给出实用建议，但LoRA在部分场景表现待验证。
LM Studio宣布支持在Mac上跑Qwen3-Next 80B模型
LM Studio宣布支持基于MLX框架在Mac上运行阿里Qwen3-Next 80B模型。该模型虽总参数量达800亿，但每次推理仅激活30亿。第三方评测显示其4bit量化运行效果好，不过实现GGUF格式支持尚需时间。
2025 的企业 AI 市场， Data &AI 占据主流视野
数据是 AI 模型学习和训练的基础，Data & AI 基础设施可打通数据与 AI 全链路。企业应用 AI 不应只关注算法和算力，还需重视私域数据。同时介绍了不同类型企业在 Data & AI 领域的特点及合作成本等内容。