「有监督微调」共找到 6431 篇相关文章
马斯克:研究者不存在了,只有工程师;LeCun:大错特错
马斯克宣称xAI不再区分‘研究员’和‘工程师’,只有工程师,这一言论引发争议。支持者如工程师David Brown等认可其观点,反对者则从多方面反驳,图灵奖得主Yann LeCun还详细阐述研究与工程差异。
当下的 AI 产品:有 revenue,但不是 recurring 的
当下AI创企有收入但非经常性,ARR指标被扭曲。因定价权在巨头手里,传统SaaS的ARR已不适用。初创生态封闭循环,未来ARR可能不再是评估方式,新指标或聚焦留存率等。
烧钱一年,李飞飞的「空间智能」愿景有变化吗?
在a16z主持的访谈中,李飞飞和Martin Casado探讨「世界模型」等话题,重新介绍World Labs愿景。李飞飞指出语言模型描述3D世界有局限,空间智能是关键,公司已推出相关技术和开源渲染器。
Karpathy 教它的 nanochat 数单词里有几个“r”
Andrej Karpathy 教超小型语言模型 nanochat d32 数单词里字母 r 的数量,创建 SpellingBee 合成任务微调模型,虽像填鸭式教学但有效,不过小模型上下文处理能力有限。
Transformer亲爹痛斥:当前AI陷死胡同,微调纯属浪费时间!
Sakana AI创始人Llion Jones是Transformer发明者之一,他警告当前Transformer虽成功,但业界或重蹈RNN覆辙,无数微调是浪费时间。他认为现在LLM非通用智能,已转向探索生物学启发的新架构。
让AI接管我家:钢铁侠有的,我也能有
作者邓天卓分享用AI重建家庭数字生活的经历。从迁移20年数据,到让AI控制家电、汽车,还能排查电脑木马、整理照片等。虽AI有不足,但技术已能把科幻变成日常,家庭AI工作站可慢慢搭建。
英伟达MoE新开源:一行import,微调加速3.7倍
英伟达开源NeMo AutoModel,基于Hugging Face Transformers v5,不改代码API,添一行import就能更快速微调MoE模型。实验显示,它能提升3.4 - 3.7倍训练吞吐,减少29% - 32% GPU显存占用。
The Batch: 873 | 通过自监督学习实现更好得图像处理
Meta等团队发布DINOv3权重和训练代码,参数规模扩6倍,用更多数据并引入新损失函数。它在图像分割和深度估计表现卓越,解决了自监督训练的视觉transformer的问题,提升全局和局部任务表现。
3种主流AIPPT实现方式详解,最复杂的有开源方案。
文章介绍三种主流AIPPT实现方式。图片生成式能按需求画PPT,速度快成本低但难调整;网页编程式效果与模型和提示词相关,易调整、数据精准;模板式有盈利案例,用模板填内容,较可控但实现复杂,还有开源项目PPTAgent可参考。
如何让LLM的输出更有创造性和随机性?
文章指出让大模型生成随机创造性内容困难,介绍了调整温度和top_k参数等提升LLM创造性和随机性的方法,还提到min_p参数影响及外部引入随机性思路,不过LLM本质有局限,多智能体或可缓解。