「使用量增长」共找到 2331 篇相关文章
烧Token成KPI,8.5万Meta员工狂刷60万亿Token,争榜一大哥
硅谷兴起“tokenmaxxing”,将token使用量作为生产力基准和竞争指标。Meta超8.5万员工参与烧token竞赛,30天消耗超60万亿。国内阿里、腾讯也有相关动作,科技大佬推波助澜,Anthropic年化收入破300亿美元。
为MoE解绑:全新「专家即服务」推理架构发布,超细粒度扩展锐减37.5%成本
近年来大模型推理开销增长,MoE架构虽能避免计算量同比增,但带来扩展性差、容错性低、负载不均等问题。为此作者提出全新「专家即服务」推理架构EaaS,实验显示它能锐减37.5%成本。
OpenAI 不想再「跪着」买显卡了
《金融时报》消息,OpenAI 正和博通合作自研代号“XPU”的 AI 推理芯片,2026 年量产。其不仅在芯片发力,还在硬件、应用和算力基建多线出击,不过自研芯片也面临资金、人才和软件生态等问题。
从诡异视频到假论文,AI正把互联网变成巨型「垃圾场」
AI生成的诡异视频在社交平台流行,如比基尼胖女人跳水、食物自相残“食”等,背后是流量逻辑和低成本创作。更严重的是,AI生成的低质量论文渗透到学术领域,危害知识纯粹性和科研公正性。
Cursor 定价更新:Pro 不再限 500 次,取消工具调用限制,还推出 $200 Ultra。
Cursor进行定价更新,推出200美元/月的Ultra计划,使用量是Pro的20倍。Pro计划默认改为有速率限制的无限请求,也能切换回旧的500次快速请求模式。还推荐了4个开源LLM微调库。
国产英伟达,离上市越来越近了
国产GPU明星企业摩尔线程申报不足3个月即上会,刷新科创板上会速度。它由前英伟达中国区总裁创立,获众多资本支持,虽营收增长快但累计亏损53亿,预计2027年或盈利,监管关注其盈利能力等问题。
数据中心热潮没有消退,但巨头们确实按了“暂停键”
市场对数据中心热潮是否结束感到焦虑,但AI整体资本支出强劲,市场需求是“暂时的暂停”。麦肯锡预测未来五到七年数据中心市场将保持20%至25%的增长范围。科技巨头重申市场强劲,同时数据中心扩张面临能源瓶颈等挑战。
刚刚,Anthropic在质疑声中获130亿美元融资,估值达1830亿
Anthropic完成130亿美元F轮融资,投后估值达1830亿美元。此轮融资由Iconiq等领投,多方参与。自推Claude后其估值飙升,营收增长快。不过该公司也面临收集数据、用量限制等争议,却未影响投资者信心。
IDC 最新AI Infra报告解读|AI 云爆发的背后:AI 应用全球化势不可挡
近期 IDC 发布报告,显示亚太企业 GenAI 应用增长快,AI 产业从开发到应用落地。这催生 AI 原生云,GMI Cloud 等新兴厂商崛起。同时,企业面临算力管理成本高问题,推理需求重塑市场格局,为中企出海带来机遇。
语言反思>强化学习:伯克利新架构碾压传统RL
大型语言模型下游任务优化依赖强化学习,但计算成本高。伯克利等机构论文提出GEPA新型优化器,将LLM执行轨迹转化为诊断信号,用语言反馈替代标量奖励,仅用传统方法1/35计算量,性能最高提升19%。