「AI推理加速」共找到 11202 篇相关文章
《动手写AI Agent》权限与安全：让 Agent 不敢乱来
文章指出LLM不理解操作后果，不加权限的AI Agent如定时炸弹。介绍权限模型设计，采用Deny→Ask→Allow三层过滤；给出权限规则结构，用glob模式匹配工具参数；还解释用glob而非正则的原因。
LLM算力告急？把文本变图片，推理成本直接减半！
大型语言模型处理长文本时计算成本高，本论文探索‘文本即图像’输入压缩策略，将长文本渲染为图像输入多模态模型，可减少近一半令牌，且任务性能不受显著影响，在多任务中验证了其有效性。
一年破千万美金，一款海外AI创意引擎爆发了
一款名为Creati的AI创意引擎发布仅1年，就有千万用户规模，实现千万美金年收入。它另辟蹊径专注创意定制和优化，创始人Ella Zhang认为创意是广告的核心，还在秘密开发创意Agent。
《动手写AI Agent》流式输出：别让用户干等着
文章围绕《动手写AI Agent》流式输出展开，指出此前Ling使用体验差，因无流式输出，用户等待久。介绍主流LLM流式接口基于SSE，对比OpenAI、火山引擎与Claude格式差异，并定义统一的StreamChunk类型。
ChatGPT化身生活操作系统：奥特曼预告下一代顶级AI
在旧金山AI初创学校对话中，奥特曼宣布OpenAI计划发布强大开源模型，可本地运行。还谈到模型成本下降、ChatGPT记忆功能，以及GPT - 5等集成模型愿景，甚至称高级订阅将免费送机器人。
朱啸虎投的第一个AI硬件公司，又完成一轮融资
AI眼镜创业公司Gyges Labs完成Pre A+轮融资，此前由朱啸虎的金沙江创投领投。其CEO邓旭东提出“Glass First”理念，以自研技术DigiWindow实现极致外观，还以“功能减法”换“体验加法”，未来将布局可穿戴设备。
清华开源一批「学习虾」，免费的「AI 私教团」来了
清华大学开源全球首个多智能体生成式学习AI技术框架OpenMAIC。它能将技术文档转化为学习课堂，还能解锁多种学习解法。其前身MAIC是重要学习平台，应用不断迭代，OpenMAIC功能强大，边界不止于课堂。
6位前DeepMind老将打造「AI指挥官」，一半成本刷新SOTA
6名前Google DeepMind成员创立Poetiq，搭建元系统让前沿大模型自动生成解决特定任务的策略和模型组合，降低推理成本。其Gemini 3 Pro优化技术在ARC - AGI - 2上创SOTA，成本仅为之前最优方法一半。
美团新独立APP，点不了菜只能点AI
美团新开源LongCat-Flash-Omni模型，支持多模态，在全模态基准测试达开源SOTA水准，推理快且全模态能力强。实测交互体验丝滑，其迭代逻辑清晰。该模型成功源于架构创新，美团靠软硬件结合实现虚实连接。
Sutton判定「LLM是死胡同」后，新访谈揭示AI困境
强化学习之父Rich Sutton直言LLM是死胡同，因其无法从持续实际互动中学习，违背他坚持的原则。在新访谈和圆桌讨论中，多位专家碰撞观点，探讨AI研究问题、强化学习困境及LLM发展走向等。