「预训练策略」共找到 2851 篇相关文章
极客说｜Unsloth 的全微调之路：从 Adapter 到 Full Fine-tuning
大语言模型参数多，微调难。Unsloth 原靠支持 Adapter 微调出名，现支持全参数微调，单卡就能搞定大规模模型训练。文章介绍其进化历程、关键技术、工程部署、使用优势及最佳实践。
从哲库到小米，从造芯之“死”到造芯之生
文章回顾华为、小米、OPPO造芯历程，分析OPPO哲库夭折与小米重启造芯的原因。指出小米重启造芯有财务、组织架构、经验等优势，且赶上制裁“窗口期”，AI时代也需自研芯片。
什么是系统提示词？如何逆向提示词？
大语言模型启动时会接收系统提示词，决定其角色、回答风格与安全边界。提示词逆向是试图获取或绕过该提示的行为。本文介绍其作用、逆向手法及开发者防御措施，助于安全使用和设计大模型。
毫秒响应延迟！开源统一语音对话模型Voila
Voila是开源统一语音对话模型，能以自发、实时且有情感的方式与人类互动。它采用全新端到端架构，响应延迟仅195毫秒，支持超百万种预构建声音，适用于多种语音应用。
NVIDIA发布最强开源模型，效果和速度全面超越DeepSeek R1
NVIDIA推出Llama - Nemotron系列开源模型，有LN - Nano、LN - Super、LN - Ultra三款。旗舰款LN - Ultra在权威测评中碾压DeepSeek - R1等，运行效率还更高。有“动态推理开关”功能，代码数据全公开，或引发AI推理效率革命。
告别「只会相似度检索」：腾讯最新T-Mem让AI学会「联想回忆」
当前大语言模型长期记忆方案均基于相似度检索，存在结构性盲区，无法在无字面/语义相似时召回关联记忆。腾讯团队提出T-Mem，实现AI联想回忆，已被EMNLP 2026接收，代码开源并上线QQ AI伙伴。
陈大年复出，入局大模型
国产大模型领域黑马StartLux-V1.0-27B-Preview，参数量仅27B，在信通院MCP测试中排综合第二，仅次于1.6万亿参数量的DeepSeek-V4-Pro。其创始人陈大年押注本地模型，公司专注该领域商业化。
刚刚，国产Agent模型闯入全球第一梯队！限时免费
昆仑万维发布SkyClaw-v1.0及其轻量版SkyClaw-v1.0-lite Agent模型，性能达全球第一梯队，价格仅主流顶尖模型一半甚至更低，适配主流Agent框架，还兼容OpenAI接口，现限时免费，后续将逐步开源。
让大模型学会「自己教自己」！京东&中科院信工所连发三篇论文定义Self-Taught RLVR
京东和中科院信工所开展Self - Taught RLVR系列研究，连发三篇论文。从RLSD、NPO、CoPD三个维度探索让大模型自我指导。如RLSD解决信息泄漏，NPO引入有效学习信号，CoPD整合多专家能力，各有创新与良好效果。
让大模型理解真实医疗视频，全球首个开源技术方案来了！
AI 进入医疗领域需谨慎，此前美国引入不成熟 AI 致手术失误频发。全球首个医疗视频理解大模型元智医疗视频理解大模型发布并开源，解决了医疗视频领域的任务优化、数据缺失和无法评测痛点。