「指令微调」共找到 532 篇相关文章
OpenAI 将推出群聊功能,终于要对 Slack 下手了
据爆料,ChatGPT 网页版将推出群聊功能预览版。群聊可通过链接分享,新成员能看历史记录,自定义指令独立,还有表情反应等交互功能。OpenAI 或借此获取对话数据,有取代 Slack 之意。
从 ReasoningBank 到 MetaAgent,RL 未必是 Agent 自进化的必要解?
业内对智能体自进化的探讨开启多路线探索模式。除 RL 优化,记忆系统改进成新方向,如 ReasoningBank 机制。此外,业内还从智能体自我识别、工具和策略辅助等机制探索其他技术路线。
开发者狂喜:Thinking Machines发布首款产品Tinker,后训练麻烦全给包了
OpenAI前CTO创办的Thinking Machines推出首款产品Tinker,这是用于微调语言模型的API,能简化LLM后训练过程,支持前沿模型,使用LoRA技术降低成本,还发布开源库,多高校团队已试用。
让RAG告别断章取义,HiChunk做到了~
现有RAG评测忽视文档切分,腾讯优图提出HiCBench评测基准和HiChunk框架。HiCBench含人工标注多级切分点与证据稠密QA,HiChunk用微调LLM建多级语义树,配Auto - Merge算法,实验效果佳。
DeepSeek大招曝光?梁文峰督战超级智能体:能自主学习,或年底发布
据彭博社爆料,DeepSeek正开发AI智能体,打造无需复杂指令、可自主学习与执行的下一代AI系统,年底发布。此前DeepSeek R1表现出色,曾推动开源发展,此次新动作彰显竞争决心。
超越人类标注,Meta提出CoT-Self-Instruct:如何用"推理式自进化"重塑LLM训练
大语言模型发展需海量高质量训练数据,传统人工标注困境重重,现有合成数据方法也有缺陷。Meta提出CoT - Self - Instruct,通过推理式自进化生成数据,实验证明其在多个任务上超越人类标注数据。
浙商大佬,带出350亿芯片独角兽
68岁浙商大佬王东升二次创业,投身半导体领域。他带领奕斯伟计算,锚定RISC - V指令集砸钱研发,虽三年累计亏损49.5亿,但D轮融资后估值达350亿,还四处扩建朋友圈推动生态建设。
B站发布最强零样本TTS,IndexTTS2情感可控、时长精准
在大规模TTS系统中,自回归模型难精准控制语音时长。Bilibili推出IndexTTS2,支持两种生成模式,实现情感表达与音色解耦,引入GPT潜在表示,设计‘软指令’机制,降低情绪控制门槛。
强化学习也遇到了“天花板”?Andrej Karpathy构建了一个新算法
大神Karpathy肯定强化学习(RL)价值,指出其比监督微调更具扩展性,但存在渐进式学习低效、背离人类学习机制的局限。他提出“第二天性”新范式算法,还面临泛化等挑战。
没想到,最Open的开源新模型,来自小红书
向来低调的小红书昨日开源首个自研大模型 dots.llm1,它是中等规模的 MoE 模型,在较小激活量下性能良好。其开源力度堪称行业最大,还介绍了数据处理、训练优化等多方面技术细节。