大显存」共找到 346 篇相关文章

新闻资讯7

打脸哲学无用!牛津博士教出Claude,自曝百万年薪提示词秘诀

Anthropic驻场哲学家Amanda Askell主导设计Claude的性格等机制,她分享制定有效AI提示词方法,认为需哲学思维。此外还提及不同人对提示词看法,以及大模型在的「裂脑问题」。

新智元
产品应用7

Claude Chrome 插件使用体验:强大,但有点慢

作者分享Claude for Chrome插件使用体验,介绍使用流程,测试让其查看马斯克推文,结果准确。该插件能力强且通用,但在慢、焦点抢占问题,还提到与deepresearch及云厂商设备的差异。

AGI Hunt
产品应用8

帮大模型提速80%,华为拿出昇腾推理杀手锏FlashComm,三招搞定通算瓶颈

在大模型推理通算难题凸显的背景下,华为数学家祭出 FlashComm。它包含三项技术,分别在 AllReduce 通信、以换传、多流并行方面优化,解决通信瓶颈,提升推理性能,未来还将围绕多方向创新。

机器之心
产品应用7

LLM加速利器LMCache,极大降低GPU资源消耗

LMCache是大语言模型服务引擎扩展组件,能降低首次响应延迟、提升吞吐量,适用于长上下文场景。它将KV缓于多级储,跨服务实例复用任意重复文本的KV缓,节省GPU算力,与vLLM结合优化显著。

GitHubStore
开源动态8

世界模型评测的最大盲区,被这个新基准捅破了

过去一年,‘世界模型’成视频生成领域热词,厂商强调产品要模拟真实世界运行规律,但业界评测一直未能精准检验其‘物体恒’的认知能力。为此,研究者提出新基准MemoBench,测试了主流模型,揭示其短板。

机器之心
算法论文8

突破瓶颈,嵌入式AI神经持续学习引擎—Replay4NCL

阿联酋、纽约、巴基斯坦大学研究人员推出Replay4NCL,解决嵌入式AI持续学习难题。它优化记忆重放,有创新架构和训练策略。实验显示其精度高、延迟低、省内、能耗少,成果将在2025年DAC大会展示。

AIGC开放社区
产品应用8

360 如何用 AutoMQ 解决千亿级 Kafka 冷读难题

360 集团作为互联网安全公司,业务数据规模膨胀,Kafka 集群运维难题凸显。AutoMQ 算分离等特性适配 360 需求,360 验证其性能后用于日志检索平台,解决冷读难题,未来将推广到更多业务线。

InfoQ
产品应用7

夸克 AI 对话助手的邪修打开方式:一句话直通网盘,看电影、找资料全拿下

阿里“C计划”首个成果,夸克App深度整合对话助手,用Qwen3 - Max模型。可随意切换模式,其独特之处是提问资料或电影,能直返夸克网盘链接,“搜、用、”一气呵成,与其他AI助手不同。

AI进修生
推荐文章7

几句话就能复刻一个付费Skill,Skills商店还能卖什么?

文章探讨Skills商店的生意前景,介绍应用层转变,对比Skills与Agent商店,说明Skills来源,指出简单流程型Skills易被复刻,还阐述Sklls、MCP、A2A的关系及当前Agent在慢的问题。

探索AGI
新闻资讯7

英伟达推出通用深度研究系统,可接入任何LLM,支持个人定制

英伟达推出通用深度研究(UDR)系统,支持个人定制,可接入任何大语言模型。它能解决现有深度研究智能体的局限性,有诸多创新特性,但目前还在原型阶段,在一定局限性。

量子位