产品应用7
Perplexity推决策模型成本降61%
AI科技评论
AI 摘要
Perplexity 推出决策模型 Decider v1.3,把判断与分类单独拆成专用架构,让多个问题单次计算共享长文本,在 63 项分类任务中准确率达 91.6%。
架构改进:重构注意力切断问题间直接交互但保留共享上下文
文本抽取:新增定位功能可根据自然语言描述直接标出原文区间
底座版本:基于千问 27B 全量微调,轻量版采用 4B 模型蒸馏
阅读原文 · AI科技评论
黄仁勋「每天都在用」的 Perplexity 开始重构 Attention,把「判断」做成了一个独立模型
Perplexity 推出决策模型 Decider v1.3,把判断与分类单独拆成专用架构,让多个问题单次计算共享长文本,在 63 项分类任务中准确率达 91.6%。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
产品应用8
谷歌发布决策模型,百万输入 0.1 美元
谷歌在 Google AI Studio 上线专做判断的决策模型 Gemini Decision 1,不逐字生成文本,单次请求可处理最多 1000 个问题,每百万输入 Token 仅 0.1 美元且输出免费。
AI前线
开源动态7
蚂蚁开源机器人底座,获李飞飞团队采用
蚂蚁旗下灵波开源的机器人“大脑全栈 2.0”已在零售药房落地分拣,不仅被李飞飞团队接入研究框架,开源模型下载量已突破220万次。
AI前线
开源动态8
腾讯开源 Hy-Nomas,单张 4090 可跑
腾讯混元团队开源交互式视频世界模型 Hy-Nomas,支持交替使用文本与键鼠运镜控制场景演化,单张 RTX 4090 即可部署推理,在线 Demo 已同步上线。
极市平台
开源动态9
Perplexity自研CobbleDB替代DynamoDB
Perplexity核心搜索面向大模型检索,原有存储Amazon DynamoDB在高流量下存在延迟高、成本不可控问题,两名工程师两个月用Rust写出4万行自研CobbleDB,迁移后性能成本均大幅优化,后续计划开源。
InfoQ