「AI推理成本」共找到 11457 篇相关文章
缓存不该困在一台服务器里
本文分析大模型推理阶段KV缓存的行业痛点，指出传统单机缓存孤立无法跨节点复用的问题，介绍焱融科技的分层共享缓存方案，公开了方案的实测性能数据，展现AI存储的新发展方向。
这个春节，AI 不聊天了，开始替我买单
马年春节，腾讯、百度、字节跳动等大厂打响「AI 春节大战」。阿里旗下千问 APP 投入 30 亿启动「春节请客计划」，活动首日成绩显赫，还展示了跨应用调度等能力，探索出独特的「超级 Agent」路线。
RunAnywhere：简单几步让AI应用跑在手机上
介绍能在手机本地运行的大模型项目RunAnywhere，它让开发者在iPhone 16 Pro Max部署Llama 3.2 3B模型。AI处理本地化，用React Native和RunAnywhere SDK，支持多模型，有多种功能，优势明显。
这一年做 Agent 的公司，Coding 赚了钱，客服融了钱，你呢？
全球数据研究机构 CB Insights《AI Agent Bible》报告梳理 Agent 行业概况。指出未来趋势，如语音成主流交互等；分析发展受限问题、有潜力机会；还介绍不同类型 Agent 商业情况及应对推理成本策略等。
从Chat、Code到Discovery，AI开始学着做科学家
本文报道AI发展进入全新阶段，任务从聊天、写代码拓展到自主科学发现，介绍PhAI Labs推出的DFM系统，分享架构设计与落地案例，分析行业痛点与解决路径。
一句话复刻谷歌！我用智谱新开源的GLM-4.5，把Agent开发打回了简单模式。
智谱AI深夜发布开源的新一代旗舰模型GLM - 4.5，目标成为最强Agent基座。它能一句话复刻搜索引擎，多能力原生融合，在多项测试中表现出色，推理快、价格低，还通过多关压力测试，且开源成本低。
大模型是不是到顶了？瓶颈到底在哪
文章探讨大模型是否到顶，指出‘到顶’争论分三个问题，靠堆大模型提升能力之路变平，受数据和成本约束。但大模型还有后训练和推理时计算两个发展方向，未来进步或来自更会用算力。
52个人用AI做PPT，年赚7个亿
在2025年，硅谷AI公司多“烧钱换增长”，Gamma却靠一款AI PPT工具，52人年入上亿美元，估值达21亿美元。它曾遇困境，后借AI逆袭，还分享独特运营哲学。
万万没想到，大学生都开始拿AI来养猪了
夸克在中国人民大学分享会曝光大学生使用情况，每10个大学生中有7人用夸克，AI渗透率达80%。学生不仅用其学习，还用于生活。不过夸克高考曾出现信息错漏，后已修正。
vivo发布端侧多模态模型，只有3B可理解GUI界面，20项评测表现亮眼
vivo AI Lab发布端侧多模态模型BlueLM - 2.5 - 3B，融合文本与图文能力，支持长短思考模式切换。它在20余项评测中表现出色，参数量小，训练和推理成本低，有精巧结构、高效策略，还有高质量数据和高性能平台支撑。