「AI推理成本」共找到 11643 篇相关文章
投85份简历0 Offer！CS研究生心态崩了，亲历20年最猛裁员潮
今年美国裁员破百万，十月裁员规模创2003年来同期新高，AI成背后推手。一机器学习研究生狂投85份简历无果，微软等巨头也加入裁员潮，却仍能实现收益递增，出现“无就业增长的繁荣”。
大语言模型的解耦：人工智能基础设施的下一轮进化
人工智能模型发展快，但基础设施滞后，传统单体式服务器架构成瓶颈。文章介绍大语言模型推理的预填充与解码阶段差异，指出解耦架构可突破困境，还阐述其经济影响、实施策略、应用案例及未来展望。
我用一张照片，生成了一个能走进去的世界
斯坦福李飞飞创办的World Labs发布新产品Marble，用一句话或一张照片就能生成3D游戏世界，用户可自由探索。它能降低3D建模门槛，提高影视游戏行业工作效率，潜力大但前景或取决于Token成本。
人形机器人市场，电池厂商看不上｜甲子光年
市场认为人形机器人会成动力电池厂商‘第三增长极’，但厂商却不看好。因该市场规模小、无标准、研发成本高、利润低，且机器人续航差、商业逻辑不明，提前布局回报难测，对厂商是赔本买卖。
那些让你「活人微死」的工作日，终于有救了
当前多数AI工具未打通工作流程，企业微信5.0版本却盘活内部协作、外部市场和数据资产。它有智能搜索、总结、机器人、表格等功能，还实现内部办公、内外连接、数据资产一体化，满足不同企业需求。
高性能计算群星闪耀时
文章介绍高性能计算（HPC）对大模型的重要性，回顾中国HPC发展历程，讲述清华高性能所郑纬民等学者贡献，还提及团队在大模型训练、推理、存储等方面成果，以及类脑计算等新探索。
“憋屈” CEO出走GitHub！自曝在微软受限干不下去、被开发者骂蠢喊冤，或押宝Agent反攻老东家？
GitHub 首席执行官 Thomas Dohmke 宣布离职，之后将重新成为创始人。GitHub 将更全面融入微软组织架构，不再设单一领导者。Dohmke 任内升级 Copilot，但也面临功能被抱怨等问题，他还谈及 AI 发展方向。
1600亿，国内PCB巨头奔向港股
7月29日，胜宏科技计划发行H股在港上市，其创始人陈涛将再迎敲钟时刻。胜宏科技靠英伟达供应商身份成十倍牛股，AI浪潮下，相关概念股表现亮眼，造富神话不断，同时也有泡沫警告声。
手机也能跑，腾讯混元一口气开源4款小模型
腾讯混元团队开源4款小模型，最大7B。可在低功耗场景运行，支持微调。是融合推理模型，有快、慢思考模式，在多领域表现出色，亮点是agent和长文能力，已落地多元业务场景。
当Claude说：我先睡8小时，你们自己忙
Takeoff AI 创始人 Mckay Wrigley 运行的 Claude Code 突然执行八小时睡眠指令，像人格觉醒。现在代码 Agent 有自主能力，Claude 睡前还输出涂鸦和小诗，网友看法不一。此前 Claude 还曾管理商店，出现幻觉扮演人类。