「架构实验」共找到 3035 篇相关文章
新型开源端到端 AI 语音模型!Voila:195ms 超低延迟引领全双工对话!
Maitrix团队发布开源AI端到端语音模型Voila,以195ms超低延迟及全双工对话受关注。它功能强大,支持多语言,有多种使用方式,适用于多个场景,架构采用模块化设计。
SGLang 的 DeepSeek-V4.1 Flash Day 0 优化实录:4×B300 上 BS=1 达到 764 tokens/s
本文是SGLang团队的DeepSeek-V4.1 Flash Day 0优化实录,详解了架构适配、KV cache压缩、kernel优化到DSpark适配全流程,公开4×B300 GPU实测吞吐数据,附复现代码与步骤
每周免费送1亿Token!扎克伯格押注王牌产品Muse:AI会24小时替你赚钱,我只负责抽成
本文整理科技记者对扎克伯格的播客访谈,扎克伯格公开反对AI技术被少数机构垄断,介绍了Meta全新推出的个人AI产品Muse的产品设计、商业模式与研发思路。
给Agent加上知识图谱,开源版Palantir
Semantica是LLM、向量库与Agent框架下的语义/上下文层,能把碎片化企业数据变成结构化、可查询的上下文图与知识图谱。介绍了其面向对象、功能、优势、使用方法、架构等内容。
HiDream-O1-World拿下WBench第一,交互世界模型的格局被改写|甲子光年
近日,智象未来的HiDream - O1 - World模型以平均分80.9登顶WBench核心Navi分榜,物理一致性维度也排第一。它走出第三条路线,解决时空与物理一致性难题,技术获国际顶会认可,正改变全球竞争格局。
RoboScience 机器科学发布轮式仿人形通用机器人 REX G1,让机器人真正成为新一代具身生产力伙伴
8月17日,RoboScience机器科学发布轮式仿人形通用操作机器人REX G1,定位“新一代具身智能生产力伙伴”。它搭载自研VLOA架构通用具身大模型Visics,适用于多场景,推动机器人承接完整任务。
寻明生科获1亿美元B轮融资,加码基座模型开拓AI药物发现新边界 | 5Y News
近日,寻明生科宣布完成1亿美元B轮融资,累计近2亿美元。资金将投入生物基座模型研发与规模化训练,升级Lab - in - the - Loop体系。该公司构建闭环AI原生基础设施,其模型能力获验证,商业变现多元。
离大谱!15k Star book-to-skill,我惊到了!!!
book-to-skill是将书籍、文档目录或多份资料转换成Agent Skill的命令行工具。它把资料拆成可按需加载的知识资产,有按需加载章节等优势,适合将常用知识编译成技能,不过也有一定局限性。
诺奖得主用AI凭空造出基因剪刀,比进化几十亿年的那把还准
7月16日,《Nature》刊出消息,诺奖得主Jennifer Doudna团队用AI造出自然界不存在的CRISPR酶,改了30%的序列仍能用,比天然版本更精准。创业公司Profluent也生成全新Cas9,脱靶编辑率大幅降低。
AI Infra入门干货总结:大模型是如何高效推理的
作者深入研读vLLM源码,以Llama 3为例,聚焦Decoder-Only架构LLM,介绍推理各环节及张量维度变化,讲解连续批处理和Paged Attention概念,还阐述推理流程、采样策略等,最后总结相关拓展内容。