「产品优化」共找到 2728 篇相关文章
低延迟、高吞吐,LLM优化与高效推理引擎综述
LLM计算成本高,用户要低延迟,企业要高吞吐。工程师开发优化技术,如动态批处理、KV缓存、模型量化。论文对比25款推理引擎,还探讨了多模态支持、手机端推理、新型架构支持等进化方向。
Thinking Machines Lab获20亿美元,没发布任何产品
前OpenAI首席技术官Mira Murati创立的Thinking Machines Lab获20亿美元种子轮融资,对该保密公司估值达120亿美元。投资者众多,公司将在未来几个月推出含开源组件的首款产品,还会分享科研成果。
AI 产品定价指南:按量定价的卡点到底是什么?
本文编译 a16z 与 Scott Woody 访谈,探讨 AI 改变软件定价逻辑及企业应对策略,还补充定价专家 Madhavan Ramanujam 关于 AI 产品定价四象限观点,指出按量定价的难点、适用模式及企业转型要点等。
150%训练效率提升:感知检测小模型训练优化方法
文章基于业务实践,总结感知检测小模型在不同算力卡上的训练方法,为智能驾驶场景提供借鉴。介绍测试环境、技术架构,分析环境依赖冲突、源代码适配等问题并给出解决方法,还提及性能优化及测试结果。此外还介绍用 RAGFlow 构建私有知识问答应用。
产品还是个文件夹,投资人抢着砸钱:只因她是「前OpenAI」?
过去一年,OpenAI掀起离职潮,前员工们在组织外重新排列、复制核心人脉、资金与声誉,形成‘OpenAI黑手党’。他们创办的企业产品未出,估值却飙升,‘OpenAI出身’成融资通行证,‘算法资本主义’正形成。
科研的回归:AutoSOTA如何终结“增量式优化”的重复劳动
当前AI科研中,为提升性能指标,研究者投入大量精力做“增量式优化”,限制原创探索。AutoSOTA项目由清华与中关村学院联合发布,它基于智能体系统构建自动化方案,接管实验迭代,一周发现105个SOTA模型,推动科研回归原创。
OpenAI 开发者的 Skill 经验:如何使用评估系统来优化 Skill
文章聚焦 OpenAI 开发者优化 Skill 的方法,指出迭代 AI 技能效果难测,可借助评估系统。介绍了用 Codex 评估的流程,包括明确标准、创建技能、手动触发找漏洞等,还提及不同阶段的评估重点和工具。
谷歌与OpenAI对狙,Gemini主打极速性价比,GPT优化对话温度
谷歌与OpenAI对狙,谷歌发布Gemini 3.1 Flash - Lite,主打规模化性价比,专为高频场景设计,成本低、速度快;OpenAI上线GPT - 5.3 Instant,优化对话体验,减少拒答、增强联网搜索等。
A16Z发布最新AI应用榜单,中国产品强势崛起
a16z发布第五期消费级AI应用排行榜,此榜单已成观察AI日常使用趋势的重要指标。新面孔减少,生态趋于稳定。Google发力,多个产品入榜;Grok表现佳,Meta AI欠佳;中国产品崛起,多个上榜;‘Vibe Coding’平台带动其他工具增长。
国内卖得很好的智能硬件产品,为什么一出海就不行了?
中国智能硬件产品国内畅销,出海却遇阻,原因在于路径依赖致战略错位。未来十年是‘中国品牌’置换‘中国制造’关键期,Cismea 作为品牌孵化平台,助力中国品牌扎根北美主流市场。