搜索：推理加速技术

「推理加速技术」共找到 4962 篇相关文章

北大校友孙之清C位出镜，小扎看OpenAI直播夺人！1亿刀薪酬光速被签

CoT之父Jason Wei离职后，又一华人科学家孙之清入职Meta。他曾在OpenAI与奥特曼同框直播，此前深度参与o3等项目，还带头做「ChatGPT Agent」技术实现。加上Jason Wei等，三人都加入Meta。

2024年初到2025年9个月内，Replit年度经常性收入从不到1000万美元破亿。其增长靠系统性战略，以AI编程代理获客，后端基础设施变现。它反映AI编程工具从编辑器进化为平台的趋势。

近日，赜灵生物宣布完成近4亿元B+轮融资，由启明创投领投。资金用于推进创新药临床研究和拓展新管线，强化三大核心技术平台。公司已有核心产品进入关键临床阶段，创始人称2025年将加速海外布局。

阿里通义团队开源电影级视频生成模型Wan2.2，将光影、色彩、镜头语言装进模型，支持60多参数自由组合。它是业界首个用MoE架构的视频生成模型，推理省计算资源，性能超主流模型，获国外网友盛赞。

今年4月“功夫boy”机器人出圈，3个月后的WAIC上它全新升级。其背后是中国电信人工智能研究院（TeleAI），由李学龙教授带领。他们技术栈全面，在硬件、软件、数据等方面全栈自研，还布局智传网，未来发展潜力大。

全球AI圈因MiniMax“发布周”沸腾。新模型MiniMax - M1被视为“性价比新王”，还有新视频、语音模型表现出色。其89年博士闫俊杰带队，在大模型研发上多次做非共识选择，现估值超30亿美元，还推出智能体产品。

文章对昇腾 910B 大模型进行实测，对比 vLLM Ascend 与 MindIE 在实际推理场景中的性能差异。通过 GPUStack 平台测试多种模型，结果显示两者在不同部署场景各有优势，vLLM 适合单卡小模型，MindIE 适合大模型多卡部署。

在a16z播客节目中，“AI教母”李飞飞讲述创业经历。五年前眼伤失立体视觉，让她意识到其对空间交互的决定性作用。她认为真正通用智能需理解物理世界，与Martin Casado一拍即合创立World Labs，加速世界模型突破。

大模型训练后知识和记忆不再增加，智能体记忆能力发展不理想。国外Mem0针对AI记忆技术发表论文并开源，提出Mem0和Mem0g两种方案，在不同场景表现出色，已获多应用，还提供SaaS服务。

英伟达在Computex大会宣布新办公室落户中国台湾省台北市，还推出多款新品。如面向个人的DGX Station有800GB内存，能跑大模型；面向企业的RTX PRO Server可加速多种用例。此外，还发布新平台、宣布合作等。