「预训练框架」共找到 3478 篇相关文章
让LLM扔块石头，它居然造了个投石机
港中大研究团队带来《Agentic Design of Compositional Machines》，推出BesiegeField平台，支持并行实验和大模型‘自我进化’。它将机械设计转为语言生成任务，通过闭环训练提升模型能力，多个模型测试表现良好。
Mamba-3惊现AI顶会ICLR 2026！CMU知名华人教授一作首代工作AI圈爆红
Transformer有力挑战者Mamba的最新版本Mamba-3进入ICLR 2026盲审。它有三大改进，在长文本处理、实时推理和成本优化有优势。此外，FBAM也从不同角度探索Transformer下一代框架。
1美元训出专属滤镜，AI把ASCII游戏画质拉满
软件工程师Jeff Schomay用AI将ASCII风格游戏‘雷霆蜥蜴’实时‘翻译’成全动态图形游戏。他借助fal.ai平台解决速度问题，经历多次尝试平衡速度与画质，还训练专属LoRA模型提升画质，但仍面临帧间一致性难题。
腾讯与中科院联合提出R-4B，一个能自动决定是否思考的多模态大模型
多模态大语言模型“始终思考”模式有缺陷，腾讯混元团队与中科院自动化所联合提出R - 4B，通过双模式退火训练和双模式策略优化实现自动思考，在多评测中达SoTA，省资源且效果好。
X-SAM：从「分割一切」到「任意分割」：统一图像分割多模态大模型，在20+个图像分割数据集上均达SoTA
中山大学、鹏城实验室、美团联合提出X - SAM，统一图像分割多模态大模型。它将分割范式扩展，设计通用输入输出，采用端到端架构和三阶段训练策略，在超20个数据集达最优，为图像分割研究开辟新方向。
机器人高层指挥低层做，“坐标系转移接口”一次演示实现泛化学习 | ICML2025
美国东北大学和波士顿动力RAI提出HEP框架，首创“坐标系转移接口”，有极简高效分层结构、空间对称性自然泛化、创新型体素编码器等亮点。它基于分层策略和接口，提升机器人操作灵活性与泛化性，论文被ICML2025收录。
Learning from peers！让LRM互相「传纸条」的新协作方式大幅提高准确率和效率
当前主流大模型如QwQ - 32B存在“前缀主导陷阱”，推理开头出错会使准确率暴跌。研究者受“同伴互助”启发提出LeaP框架，设计三种路由策略，实验显示小模型能借此超越大模型，开创了多种可能性。
DeepSeek推理再提速80%，V4正式版定档7月中旬
DeepSeek两天前开源DSpark推理加速框架，已在V4预览版在线服务跑真实流量，使生成速度提升60% - 85%。DSpark化解推测解码问题，在多模型超Eagle3和DFlash。V4正式版7月中旬上线，将引入峰谷定价。
Anthropic最新论文：检测LLM内省意识的方法
Anthropic与MIT等研究表明，LLM能‘感知’被注入的steering vector，‘内省意识’在DPO等后训练阶段涌现。研究构建实验，发现内省能力行为稳健、检测非简单线性关联等，还揭示检测与识别机制不同及两阶段电路。
Agent-World：扩展真实世界环境，让智能体与环境协同进化！
文章提出Agent-World，将“智能体环境探索”与“自进化训练”结合，构建了1978个环境、19822个工具。实验表明，其在23个基准上一致性优于先进方法与强开源基础模型，还分析了环境规模与自进化对性能的影响。