「内存优势」共找到 1289 篇相关文章
Hybrid Model Support:阿里云 Tair 联合 SGLang对 Mamba-Transformer 等混合架构模型的支持方案
文章介绍阿里云 Tair KVCache 团队与SGLang社区在推理框架上支持混合架构模型的工程化实践。分析混合架构崛起原因、面临挑战,阐述内存管理、关键技术优化方案,验证性能,并指出未来演进方向。
GuardAgent:首个专门为LLM agent提供安全Guardrail 的守卫型agent
近年LLM从对话工具变为可自主执行任务的agent,但带来安全隐私挑战。传统安全监护对其力不从心,为此学者发布GuardAgent,它守卫agent,具通用性、精确判断和免训练部署优势,实验表现佳。
万帧实时!流式3D重建天花板,被国产开源模型打破了
蚂蚁正式开源 LingBot-Map,这是基于几何上下文 Transformer 的纯自回归流式 3D 重建基础模型。它能在恒定内存下实现超万帧长视频实时三维重建,处理速度约 20 FPS,在多基准测试中超越现有流式方法。
“养团队造语言”时代终结?Rust传奇人物用Claude造出新开源编程语言,AI写下万行代码:大模型上限很高,我学会了高效用它!
Rust核心贡献者Steve Klabnik借助Claude写了新语言Rue并开源。他曾是AI怀疑论者,现认为大模型在编程中‘真的有用’。Rue目标是不依赖垃圾回收提供内存安全,使用体验更顺手,开发深度依赖Claude。
不自研、只收购,年入7亿美金,全球最赚钱的应用工厂是如何做成的?
Bending Spoons是欧洲非游戏类应用工厂,靠收购模式年入7亿美元。创始人Luca Ferrari称收购是买时间和优势,解锁被收购公司潜力。公司核心竞争力是内部系统,还回应了裁员争议,也谈及未来规划。
独家对话希捷科技Jason Feist:AI时代,企业正在“删除删除键”|甲子光年
本文是「甲子光年」对希捷科技云存储业务高级副总裁杰森·费斯特的独家对话。费斯特指出,AI 基础设施正从计算、内存转向存储,企业倾向长期保存数据,高容量硬盘重要性凸显。他还探讨了存储系统变化、技术创新等问题。
3年增长54倍,ARR 50亿美金,它如何跑通“第二名”AI商业化难题
Anthropic从OpenAI分化而来,3年估值从34亿美元涨至1830亿美元,近期完成130亿美元F轮融资。它先技术突围探索Claude系列,后场景突围确定优势领域,在编码场景领先,与OpenAI发展模式不同,靠API服务企业。
玻璃基板封装,进入量产前夜
英特尔三年前提出玻璃基板封装将成下一代先进封装关键路线,7月25日宣布与蓝思科技合作推进。玻璃基板优势多,曾受易碎性困扰,现此问题已基本解决,TGV工艺良率成量产关键,预计2027年订单释放。
面向 AI Agent 的搜索服务,小宿科技有机会成为百亿美金的新巨头吗?
文章围绕AI搜索展开,分析微软Bing停用API原因,探讨小宿科技做Agent时代AI搜索服务的机会。从多方面剖析小宿优势,如全球通能力、贴合需求打法等,指出AI时代搜索是B端基建博弈。
从润建、软通、新华三等头部服务商,看IT巨头AI转型的新共识|甲子光年
文章以润建股份为例,探讨传统 IT 服务商 AI 转型。润建以“曲尺”平台为支点转型,其平台覆盖全流程,“曲尺运维大模型”赋能运维。此外,软通动力、新华三也有类似转型,均结合自身优势掌握主动权。