「计算成本」共找到 2072 篇相关文章
只需一次指令微调,大模型变身全能专家天团,8B模型性能反超全微调基线 | ACL25 Oral
预训练大模型适应专业领域需高昂微调成本,稀疏混合专家架构虽能提升推理效率,但从头训练耗资源。浙大与Thomson Reuters团队提出SIMoE,单阶段微调就能升级大模型,还解决传统方法两大局限,在性能和效率上双突破。
突发!Fable 5.1遭黑客破解,27万字提示词泄露
Fable 5.1和Mythos 5.1发布,Fable 5.1推理成本低32%。但发布几小时后被破解,27万字提示词泄露,曝光了其安全限制、隐私保护等秘密。它工具增加,还破解密码、能完成多种任务,不过也有用户抱怨耗token等问题。
都在卷「让大模型多循环几遍」,这个7B模型LoopCoder v2说:多循环 1 次就够了
当下推理模型流行在测试时多循环,以打磨答案。但新研究发现,7B模型LoopCoder v2只多循环1次(共2次),就能大幅提升性能,继续增加循环次数,性能反而下降。研究还分析了收益与成本,给出选择循环次数的诊断方法。
欲取代transformer的SSA(次平方稀疏注意力)解读
文章解读了欲取代Transformer的SSA(次平方稀疏注意力)算法。它支持12M tokens上下文,比fastAttention快52倍,训练和推理更快。SSA改变了注意力扩展特性,有计算和内存线性扩展等特性,经三阶段训练可可靠利用长上下文。
中科院类脑大模型SpikingBrain,2%数据,百倍速度
中国科学院自动化研究所李国齐、徐波团队发布全球首款大规模类脑脉冲大模型SpikingBrain 1.0。它处理长文本比主流Transformer模型快超百倍,训练数据仅为2%。该模型采用新架构,降低计算复杂度,还可转换现有模型,且在国产GPU完成训练。
Agent从一问一答到自主执行面临哪些挑战?
随着AI发展,Agent正从答疑助手走向自动执行任务的数字人,定时调度是其走向自主运行的关键。开源Agent定时任务存在无高可用、运维成本高、权限管理弱等痛点,阿里云MSE AI任务调度有高可用、统一管理等优势,现免费公测。
OpenAI 广告续命遭全网骂,用户要跑路Gemini!需烧 400 亿,18个月破产预警
OpenAI计划在ChatGPT对话界面向美区免费版和低价订阅用户测试广告投放,旨在拓展营收缓解成本压力。此举动引发批评,用户转向Gemini。OpenAI虽营收增长,但算力投入大,首席财务官称加广告会坚守三大原则。不过,有预测称其18个月内或破产。
Kimi K2.6背后的Agent Database:Agent-native 时代的数据 Infra 竞争,跟过去 30 年有何不同
TiDB Cloud 成 Kimi K2.6 供应商,为其 Agent 建站服务提供支持。Kimi K2.6 由 Agent 完成在线应用构建,与其他 AI 建站应用不同,它全托管且用户无需技术背景。该合作解决了成本和基础设施难题,展现了 Agent-native 时代数据 Infra 竞争的新特点。
DeepSeek一体机最新观察:满血版卖不动了,市场抢食零散的中低端机型生意
本文聚焦DeepSeek一体机市场,上半年国央企等大客户采购高端机型需求旺,头部硬件厂商营收可观,中小厂商冷清。下半年高端市场饱和,中低端机型“游击战”开打,部分厂商用国产芯片降成本,部分有政府关系的新厂商入局。已售一体机落地难,需杀手级应用和用户数据。
SEO是什么?SEO一般指搜索引擎优化
搜索引擎优化(SEO)是通过分析搜索引擎排名规律,优化网站内容,提高自然排名的技术。它关乎网站能否在行业内占据领先地位,获取品牌收益。但SEO方法有黑白帽之分,选择不慎可能面临搜索引擎惩罚。