「AI推理成本」共找到 11457 篇相关文章
在腾讯、育碧的做过游戏后,他转身做 AI 原生游戏,一上线就好评如潮
AI 原生游戏「动物去哪儿」基于真实地理数据,让玩家的小动物开启真实旅行,经历随机事件。创始人太一曾在腾讯、育碧任职,受 AI 启发制作此游戏。目前游戏在观猹获 9.1 分,本周五将邀太一直播答疑。
AI Infra 工程师们如何应对大模型流水线里的“暗涌”?
InfoQ《极客有约》X AICon 直播,邀请华为昇腾专家 ZOMI 酱、蚂蚁集团马介悦和 SGLang 尹良升探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代策略、推理部署优化、开源项目挑战等内容。
刚花完天价抢人,如今态度180度转变说AI泡沫?Meta冻结招聘遭网友群嘲:小扎翻脸比翻书快
近日,Meta 冻结 AI 招聘,此前它刚花巨资从对手处挖人。原因是 CEO 扎克伯格担心投资无回报,且公司在重组。此前 Meta 计划投数千亿美元建数据中心,其 Behemoth 模型发布推迟。此外,报告称 95% 公司 AI 投资零回报。
英特尔连环炸:CTO被OpenAI挖走、中国区架构大调!陈立武亲自下场扛AI,称“不再提供空白支票”
近日,英特尔CTO兼AI负责人Sachin Katti离职加盟OpenAI,他负责搭建计算基础设施。此前其部门未达营收预期,英特尔多位高管出走。CEO陈立武亲自领导AI业务,还推进改革和中国区架构调整。
13 年苦熬到 170 亿市值,一夜间被用户抛弃!一封“AI吹”全员信让网友“不喷不行”
Duolingo是热门教育应用,市值达170亿美元。CEO宣扬“AI优先”,引发网友不满,大量用户抗议。Duolingo早期靠志愿者产出高质量内容,后用AI生成,在小语种上问题频发,公司还试图用搞笑视频化解危机。
承认自己开源不行?转型“美国DeepSeek”后,两个谷歌研究员的AI初创公司融到20亿美元,估值暴涨15倍!
AI创业公司Reflection AI由两位前Google DeepMind研究员创立,仅一年就完成20亿美元融资,估值达80亿美元。它从编程领域起步,推出代码理解智能体Asimov,现转型为开源替代公司,要打造开放模型。
通过零开销逐层权重卸载技术将SGLang Diffusion wan2.2的推理速度加速60%
文章介绍在优化SGLang对Wan2.2视频生成模型支持时,发现双Transformer架构下第1步和第19步推理慢的问题。通过零开销逐层权重卸载技术,将整体推理速度提升60%,还突破显存墙,且该优化可扩展到其他模型。
百度秒哒负责人朱广翔:AI开发革命的终局,是让创意本身成为唯一的“代码”
百度秒哒负责人朱广翔指出,传统应用开发模式受“不可能三角”所困,而秒哒旨在破局。他还分享了AI时代生产力公式,强调多智能体协作关键,认为AI开发终极目标是让人聚焦创意,且不会取代产品经理和程序员。
Claude Sonnet 4 支持百万上下文了,AI Coding 的想象力更大了
Anthropic宣布Claude Sonnet 4支持100万Token上下文窗口,容量为之前5倍。该功能已在部分平台公测,将推给更多用户。它支持复杂任务,有新定价和成本优化方案,获早期用户高度评价。
央企牵头!这个AI开源社区要让大模型跑遍「中国芯」
6月30日百度文心大模型4.5系列开源并登陆魔乐社区,该社区发起‘模型推理适配协作计划’,想让大模型跑遍中国芯。其升级工具中心和协作空间,联动产业力量,解决模型在国产芯适配难题,推动生态发展。