GPU实现」共找到 2454 篇相关文章

开源动态7

vLLM 新特性:批量大小不再影响模型输出

vLLM 推出批量不变推理功能,解决大模型推理中相同输入在不同批量大小下结果不同的问题。设置 `VLLM_BATCH_INVARIANT=1` 可保证输出一致,技术实现含三部分,虽有性能开销但换来了结果确定性。

AI工程化
7

你可能没注意,腾讯已经把 AI 融进了这两个关键场景

作者参加腾讯全球数字生态大会AI协同办公与组织升级专场,关注腾讯乐享AI知识库和腾讯电子签合同智能引擎。乐享解决传统知识库痛点,让知识融入工作流;电子签实现合同管理全流程智能化,解放法务劳动力。

MacTalk
新闻资讯8

吴恩达复盘百度岁月:我带过的自动驾驶、智能音箱都成了!Altman 我也带过,但 Gemini 3 比 ChatGPT 强

吴恩达团队提出新版图灵测试,重新界定 AGI。他参加播客谈及 AI 发展关键议题,认为 AGI 短期内难实现,规模化时代未结束但非唯一路径,AI 不会大面积取代岗位,中美 AI 各有所长。

InfoQ
产品应用8

面壁MiniCPM-SALA模型,稀疏-线性注意力,单卡吞吐百万上下文

面壁智能团队提出SALA,基于此训练的MiniCPM-SALA模型,在单张A6000显卡实现百万token超长上下文推理,训练成本降约75%。它结合稀疏与线性注意力,采用混合架构,继承权重降低成本,在长文本处理上优势明显。

AIGC开放社区
开源动态8

一人干翻所有大厂!OpenClaw硅谷封神,开发者一夜爆赚两亿

OpenClaw之父成硅谷英雄,其在YC访谈揭秘爆款AI背后故事。开发者用它结合TikTok实现财富暴增。Peter Steinberger称未来80%App将被取代,OpenClaw可本地运行,能连接设备,且记忆存本地,夺回数据主权。

新智元
开源动态8

腾讯混元世界模型HY-World 1.5开源,24 FPS的实时交互世界建模

腾讯混元世界模型HY - World 1.5开源,实现24 FPS实时交互世界生成。它采用双重动作表征等技术,解决了长程生成问题,还通过强化学习等优化,在多方面表现出色,为具身智能场景模拟奠基。

AIGC开放社区
新闻资讯7

为Token付费是一件很愚蠢的事情,用户应该为智能付费丨RockAI刘凡平@MEET2026

RockAI创始人刘凡平在量子位MEET2026大会提出,AI下一阶段要让模型“活起来”,实现硬件觉醒。他认为为Token付费愚蠢,应关注端侧智能,突破Transformer和反向传播算法,群体智能是迈向通用人工智能新路径。

量子位
产品应用8

用AI“打开”金融市场黑盒:微软亚洲研究院如何构建订单级仿真引擎

在大模型与智能 Agent 崛起的时代,金融行业变革不断。微软亚洲研究院刘炜清在 AICon 大会分享,团队构建金融基座模型与 Agent 流程,实现高保真市场模拟与决策优化,还介绍了相关平台和模型构建应用。

InfoQ
推荐文章7

入局AI Infra:程序员必须了解的AI系统设计与挑战知识

文章分享传统后台工程师技术栈和方法论如何迁移到AI系统,系统性拆解AI Infra的硬件、软件、训练和推理挑战,如硬件从CPU到GPU、软件依赖深度学习框架,还分析训练和推理面临的问题及解决办法。

腾讯技术工程
算法论文8

怎么量化机器人数据价值?ATHENA将影响函数扩展到十亿参数VLA,313×加速筛选高价值数据

具身智能进入数据scaling时代,VLA模型训练中数据并非越多越好。上海交大同济等校团队提出ATHENA框架,将影响函数扩展到十亿参数VLA模型,解决计算和筛选难题,实现313倍加速,实验证明其用更少数据获更好效果。

机器之心