「训练策略」共找到 2786 篇相关文章
200行python代码实现从Bigram模型到LLM
本文从`babygpt_v1.py`出发，逐步加入self-attention机制、position嵌入等，实现完整GPT。介绍Transformer结构，讲解位置编码、单头自注意力等机制的代码实现，还阐述后续层的用途、参数调整及训练效果，最后提及模型优化方向。
ACL 2026｜Doc-V*：读100页文档不如只翻对5页，80页场景「暴打」RAG 10个点
Doc-V*由小米和华中科技大学团队提出，是多页文档理解新范式，通过交互式视觉推理让模型有策略地读长文档。它在多页文档问答基准上比RAG变体提升49.7%，不依赖大模型或长上下文窗口。
震惊海外开发者！BOSS直聘3B小模型比肩80B，怎么做到的？
BOSS直聘楠北阁团队发布3B轻量端侧小模型Nanbeige4.1-3B，性能震惊海外开发者。团队从多方面改进，如优化推理和偏好对齐，重构训练数据，采用多种强化学习算法，使其性能比肩大模型。
智能体的记忆管理机制及其潜在风险 | 直播预约
大语言模型（LLM）智能体兴起，记忆机制是核心。本次报告将探讨记忆管理对其性能的影响及潜在风险，展示缓解关键挑战的策略，介绍新攻击范式，揭示安全漏洞，强调需重新审视与建模。
AI 真能看懂物理世界吗？FysicsWorld：填补全模态交互与物理感知评测的空白
多模态大语言模型正经历范式转变，目标是实现全模态协同交互。但现有评测体系难跟上模型发展。飞捷科思和复旦团队推出 FysicsWorld 基准，可评测模型多能力，还提出 CMCS 策略，为全模态智能发展提供指引。
4倍速吊打Cursor新模型！英伟达数千GB200堆出的SWE-1.5，圆了Devin的梦！实测被曝性能“滑铁卢”？
Cognition推出全新AI编码模型SWE-1.5，专为软件工程任务设计，运行速度快，在基准测试中成绩良好。它基于GB200芯片训练，有定制编码环境，开发有新战略，还与Cursor新模型Composer对比引发关注。
谷歌营收被Nano Banana带飞！季度首破千亿美元，Gemini APP月活6.5亿
Nano Banana成爆款后，Gemini月活达6.5亿。AI业务带动下，谷歌季度营收首破千亿美元。谷歌CEO称全栈式AI策略推动增长，谷歌还将加码AI基建投资，且与能源企业合作重启核电站。
LangChain联合Manus季逸超最新分享！也许当前最好的「上下文工程」讲解
文章由LangChain创始工程师与Manus联合创始人深入探讨上下文工程，介绍其兴起背景、重要策略。指出AI Agents上下文膨胀致性能下降，上下文工程能解决此问题，还阐述了避免模型专业化陷阱及相关实战经验等内容。
华人团队终结Token危机：扩散模型数据潜力超自回归三倍
最新研究发现，token数量受限下，扩散语言模型数据潜力超自回归模型三倍多。一个1B参数的扩散模型用1B tokens训练，在基准测试取得不错准确率，且未现性能饱和。
从 AI 创业角度看 GEO：如何引流、效果评估，以及创业机会在哪里？
文章从AI创业角度剖析GEO，介绍其原理、内容优化策略、实操建议、效果评估搭建、代表产品等，指出GEO与SEO不同，虽有争议但值得做，还探讨了相比SEO的更多想象空间。