「长期参数」共找到 990 篇相关文章

开源动态8

HF日趋榜一!真端到端模型AutoDeco终结手动调参解码

大语言模型手动调参解码繁琐,腾讯AI Lab王琰团队联合港中大(深圳)唐晓莹教授团队推出AutoDeco架构,通过创新训练策略让模型动态预测解码参数,在多模型实验中表现出色且已开源。

机器之心
算法论文8

量化噪声竟是RL秘钥?QeRL:高效强化学习新范式,一场噪声引发的性能革命

近年来,大语言模型在复杂推理任务中面临挑战,强化学习虽更接近人类推理过程,但训练“烧资源”。论文《QeRL》提出量化不仅能压缩模型、节省资源,还能增强模型探索能力,QeRL框架实现训练速度提升、内存占用减半。

深度学习自然语言处理
7

Meta AI大裁员,华人大佬田渊栋被裁了?!Alexandr Wang “嫡系”部门还在重金招聘

据 Axios 报道,Meta 从 AI 部门裁撤数百岗位,涉及多个团队,但新成立的 TBD Lab 不受影响且仍在招聘。Meta 认为长期 AI 团队官僚,想借此让团队更高效。华人科学家田渊栋称受裁员影响。

InfoQ
开源动态8

DeepSeek开源的不仅仅是个新OCR模型。。。

DeepSeek开源3B参数的新OCR模型,重新思考AI处理长文本方式,用视觉token压缩文本信息。核心组件有DeepEncoder和DeepSeek3B - MoE解码器,实验效果好,成本降低,还解决了一些算法和工程问题。

AI工程化
新闻资讯8

刚刚,奥特曼首曝:AI取代CEO后,我想去当农民!

OpenAI 奥特曼在与 Mathias Döpfner 对话中分享对 AI 看法,称 AI 取代工作后想当农民,还谈到 AI 超越人类智慧、OpenAI 关键决策、人类灭绝风险、新闻业未来等话题。

新智元
新闻资讯8

AI时代的传统车企转型:广汽的“双核”战略、组织裂变与自研之路|行知数字中国

本文讲述广汽集团数字化转型历程与规划。在新兴车企冲击下,广汽开启转型,从组织架构破冰到技术突破。转型中业务、组织、文化三重裂变,现进入 GDA 3.0 提出双核战略,还分享国企转型方法论及自研重要性。

InfoQ
产品应用7

Ollama 推出免费搜索API + MCP集成:Cline、Codex一键接入网络搜索( + Qwen 搭建迷你搜索代理 )

Ollama推出免费Web搜索API,个人使用免费,本地和云端模型均可调用,还出了MCP服务器。它能让开源模型执行长期研究任务,还介绍了用其与Qwen搭建迷你搜索代理及MCP集成的方法。

AI进修生
算法论文8

超越RAG和DAPT!华人团队新研究引热议:即插即用、无需改变原参即可让模型化身领域专家

华人团队提出比DAPT和RAG更方便、成本更低的方法,即“Memory Decoder”预训练记忆模块。它像“领域知识插件”,即插即用、不改原参,能让Qwen、Llama等模型成领域专家,还降低困惑度。

量子位
开源动态8

北大、字节跳动联手发布SWE-Swiss:一把修复代码Bug的「瑞士军刀」,完整配方直指开源SOTA

北大、字节跳动等联合研究提出SWE - Swiss配方,用于训练解决软件工程问题的AI模型。32B参数的SWE - Swiss - 32B在SWE - bench Verified上准确率达60.2%,各训练环节效果显著,模型和数据将开源。

机器之心
新闻资讯8

圣路易斯联邦储备银行报告:美国大量人口已使用生成式AI

圣路易斯联邦储备银行报告显示,截至2024年末,美国18至64岁近40%人口用生成式AI,职场23%劳动者每周至少用一次。还对比其与PC、互联网普及情况,分析使用差异及对经济的生产力提升。

AIGC开放社区