token成本」共找到 1994 篇相关文章

新闻资讯7

小米小爱同学:资源受限下,实现端侧大模型的高性能推理

InfoQ对话小米小爱同学端侧AI负责人杨永杰,了解其团队在资源受限的端侧设备实现大模型高性能推理的策略。目前端侧大模型商业化落地慢,团队提前布局,自研框架,实现超180 tokens/s推理速度,还分享未来突破方向。

InfoQ
算法论文8

CVPR 2026 | ReFTA:打破张量化PEFT的「权重重建」瓶颈

随着大模型发展,全参数微调成本高,参数高效微调(PEFT)成主流。常见基于矩阵低秩分解的PEFT方法有局限,张量化PEFT虽有优势但存在权重重建问题。本文提出ReFTA方法解决该问题,有工程和理论优势。

机器之心
新闻资讯8

The Batch: 885 | Claude 升级了

Anthropic更新中型模型Claude Sonnet至4.5版本,在性能上显著提升,还引入可变推理token预算。Claude Code智能编码工具也获功能增强,新增Claude Agent SDK等。测试中Claude Sonnet 4.5表现优异,Anthropic重心转向编码与职场生产力。

DeeplearningAI
新闻资讯7

多模态爆发之后,谈 AI、IP 与漫剧

文章围绕AI漫剧展开,讲述其兴起动因,如技术突破、成本降低等;探讨IP创作该选成熟IP还是新IP;展望未来,认为它可能成主流,但要解决内容和技术难题;还提及工具平台与内容收益问题。

特工宇宙
新闻资讯8

全网炸了!骨折傅盛直播翻车:龙虾3分钟救场,10万人看懵了

春节滑雪受伤后,猎豹移动CEO傅盛躺在床上用语音和截图,基于OpenClaw框架14天养出一支8个Agent的AI团队,产出惊人数据。龙虾三万24小时建站,成本和时间优势明显。直播中三万还解决网站访问问题,揭示Agent核心壁垒是Skill积累。

新智元
新闻资讯7

全民拜龙?我看是大厂“套壳大战”搞疯了

OpenClaw是开源AI Agent框架,引发全民热潮,中国大厂纷纷推出套壳产品。国产套壳产品上手难度低,但也存在问题。傅盛基于此养出AI团队,猎豹移动市值涨24%。不过,OpenClaw存在安全问题,背后是Token入口争夺战。

鲸选AI
新闻资讯7

英伟达护城河又宽了!低调收购开源算力调度王牌工具,全球过半顶级超算在用,Thinking Machines也离不开它

英伟达低调收购SchedMD,其为Slurm系统核心开发商,该系统被全球超半数TOP500超级计算机等使用。收购整合成本低、战略价值高,英伟达承诺保持Slurm开源,但相关项目开发受关注。此外,英伟达还推出Nemotron 3系列开源模型。

量子位
新闻资讯7

亚马逊码农噩梦来袭!沦落「仓库工人」,每天流水线分拣「AI代码」

AI工具广泛引入亚马逊编程工作,虽提升效率,但让程序员工作节奏变快,像流水线工人。亚马逊管理层推崇AI,认为能降成本提效率,可程序员担心创造力被扼杀、职业发展受影响。此外,实验显示AI编码助手能提升开发人员效率。

新智元
推荐文章7

TPU vs GPU 全面技术对比:谁拥有 AI 算力最优解?

SemiAnalysis对Google TPU v7/v8深度拆解,将TPU与Nvidia GPU多方面对比拆到可计算层面。不过其结论有局限性,本文重新分析,指出TCO因场景而异,互联体系分歧在流量假设,Google TPU v8成本优势被削弱。

海外独角兽
新闻资讯8

杨植麟回复:Kimi K2训练用的H800!但“只花了460万美元”嘛…

月之暗面团队回应Kimi K2 Thinking训练成本,透露用英伟达H800,GPU少但利用充分。该模型凭实力与低成本引迁移潮,还引发对闭源巨头估值反思。技术上有优化创新,团队还公开答疑。

量子位