并行智能体」共找到 3645 篇相关文章

算法论文8

32k微调处理百万Token:21倍的推理加速,10倍的峰值显存节省,实现恒定内存消耗

现有大模型处理超长文档易内存爆炸、计算崩溃。阿里巴巴未来生活实验室推出CoMeT架构,有双轨并行记忆系统,能恒定内存、线性时间处理文本,在基准测试超主流方法,实现21倍推理加速和10倍显存节省。

量子位
推荐文章7

AI落地的另一种可能性

Sam Altman用APP解决AI落地问题,如将ChatGPT打造成“超级APP”,但此模式有交互形态受限、生态割裂的缺点。作者认为这是权宜之计,并设想把AI作为“通用智能层”嵌入各行业软件,Anthropic有此可能。

newtype AI
产品应用8

华为 | MoE推理「王炸」组合:昇腾原生盘古推理,性能狂飙6-8倍!

华为团队推出昇腾平台原生Pangu Pro MoE 72B模型,经系统级软硬协同等优化,推理性能提升6 - 8倍。还提出分层混合并行等策略,打造融合算子,设计推理算法,在昇腾不同平台展现卓越性能。

AINLPer
产品应用8

QClaw V2 升级:微信里直接用的龙虾,真正走入你生活和工作的个人助理

3月8日QClaw发布后文章爆火,近期产品迭代快。QClaw V2引入Multi - Agent机制,可创建多角色AI助手并行工作,还能连接主流办公工具,集成龙虾管家保障安全,实测功能强大,优势明显。

特工宇宙
产品应用8

首创“AI+真人”双保障模式!刚刚,百度健康推出7x24小时「能聊、有料、会管」AI管家

百度健康推出7x24小时AI管家,首创“AI+真人”双保障模式,提供全链路服务。它能精准咨询、推荐就医、管理健康档案,靠三层模型架构支撑,标志医疗AI向“智能健康伙伴”跃迁。

量子位
推荐文章7

CuteDSL-2: 基本操作

文章为Cute - DSL第二篇,整理官方notebook介绍基本操作。涵盖数据类型、张量、结构等基本操作,还介绍了控制流(For、If - Else、While循环等)及TensorSSA的相关操作,如LD/ST、运算、切片等。

GiantPandaLLM
新闻资讯8

李飞飞押注的3D世界模型黑科技,被这篇论文一次性扒光!

李飞飞创业公司World Labs发布空间智能模型成果,推出Marble平台。本文分享3D、4D世界模型技术综述,系统梳理原生表示的世界模型,给出分层分类法、数据集与评测指标,并开源维护。

PaperAgent
新闻资讯7

小扎高薪挖来的人又跳回OpenAI了!首席科学家赵晟佳也要回去

扎克伯格高薪挖人组建Meta超级智能实验室,对标OpenAI和Google DeepMind。但刚挖来的人有回流,老员工也出走,涵盖多岗位。重组致管理混乱,华尔街质疑720亿美元AI投资回报。

量子位
开源动态8

百川开源医疗增强大模型 Baichuan-M2:更符合中国临床诊疗场景,可 4090 单卡部署

百川智能发布并开源医疗增强大模型 Baichuan-M2,以更小尺寸反超 OpenAI 新模型。它可 4090 单卡部署,成本低,在 HealthBench 评测表现佳,免费开源,更适配中国临床诊疗场景。

InfoQ
推荐文章7

【博客转载】CUDA Kernel Execution Overlap

文章讨论CUDA kernel执行重叠,指出有足够计算资源时可重叠,通过调整`blocks_per_grid`值,观察到不同并行化程度。还提到隐式同步会影响重叠,可启用`per-thread` default Stream 禁用。

GiantPandaLLM