「AI智能体推理框架」共找到 12212 篇相关文章

开源动态8

千星项目LLMRouter:多模型路由,16+策略优化推理

UIUC开源智能模型路由框架LLMRouter,可自动为大模型应用选最优模型,有16+路由策略。该框架打通训练、评测等链路,解耦Route与Training模块,支持多轮协同等,还可插件式扩展。

新智元
算法论文8

LLM算力告急?把文本变图片,推理成本直接减半!

大型语言模型处理长文本时计算成本高,本论文探索‘文本即图像’输入压缩策略,将长文本渲染为图像输入多模态模型,可减少近一半令牌,且任务性能不受显著影响,在多任务中验证了其有效性。

深度学习自然语言处理
产品应用8

一年破千万美金,一款海外AI创意引擎爆发了

一款名为Creati的AI创意引擎发布仅1年,就有千万用户规模,实现千万美金年收入。它另辟蹊径专注创意定制和优化,创始人Ella Zhang认为创意是广告的核心,还在秘密开发创意Agent。

量子位
推荐文章7

《动手写AI Agent》流式输出:别让用户干等着

文章围绕《动手写AI Agent》流式输出展开,指出此前Ling使用体验差,因无流式输出,用户等待久。介绍主流LLM流式接口基于SSE,对比OpenAI、火山引擎与Claude格式差异,并定义统一的StreamChunk类型。

AI Reading Hub
新闻资讯8

ChatGPT化身生活操作系统:奥特曼预告下一代顶级AI

在旧金山AI初创学校对话中,奥特曼宣布OpenAI计划发布强大开源模型,可本地运行。还谈到模型成本下降、ChatGPT记忆功能,以及GPT - 5等集成模型愿景,甚至称高级订阅将免费送机器人。

量子位
新闻资讯8

灵初智能陈源培:一个 00 后的机器人之梦

00 后陈源培是灵初智能联创,本科土木工程专业,大二因比赛对机器人感兴趣。他研究灵巧手,参与开源项目,灵初发布相关模型。他认为强化学习对灵巧手重要,还谈了模型、创业、落地等看法。

AI科技评论
新闻资讯8

阿里刚投的AI明星,3D大模型那种

通用人工智能公司VAST宣布完成5000万美元A轮融资,由阿里、恒旭资本联合领投。其自研3D基础大模型领先,发布全新AI 3D大模型家族。2025年重点研发世界模型,2026年将加速建设UGC互动内容平台。

量子位
新闻资讯7

6位前DeepMind老将打造「AI指挥官」,一半成本刷新SOTA

6名前Google DeepMind成员创立Poetiq,搭建元系统让前沿大模型自动生成解决特定任务的策略和模型组合,降低推理成本。其Gemini 3 Pro优化技术在ARC - AGI - 2上创SOTA,成本仅为之前最优方法一半。

新智元
开源动态8

美团新独立APP,点不了菜只能点AI

美团新开源LongCat-Flash-Omni模型,支持多模态,在全模态基准测试达开源SOTA水准,推理快且全模态能力强。实测交互体验丝滑,其迭代逻辑清晰。该模型成功源于架构创新,美团靠软硬件结合实现虚实连接。

量子位
新闻资讯7

Sutton判定「LLM是死胡同」后,新访谈揭示AI困境

强化学习之父Rich Sutton直言LLM是死胡同,因其无法从持续实际互动中学习,违背他坚持的原则。在新访谈和圆桌讨论中,多位专家碰撞观点,探讨AI研究问题、强化学习困境及LLM发展走向等。

机器之心