「技术策略」共找到 3547 篇相关文章
KV-Cache 实战策略:生产环境中的分页、固定与复用技术解析
在大语言模型推理场景中,KV - Cache 是平衡性能与成本的核心技术,但生产环境中面临诸多问题。本文聚焦其分页、固定与复用三大战术,结合原理、实践与案例,为开发者提供解决方案,还探讨了未来演进方向。
一篇多模态大模型推理技术最新综述
华东师大&字节跳动系统回顾基于强化学习的MLLMs推理进展,涵盖关键算法设计、奖励机制创新及实际应用,探讨了RL在LLMs/MLLMs中的关键设计与优化策略,还涉及多模态大模型推理多方面内容。
AI时代:判断力为何比技术能力更重要?
音乐家布莱恩·伊诺1995年指出计算机音序器把技术问题转为判断问题,如今AI时代这一洞察更凸显价值。技术壁垒消失,判断力成关键差异,未来职业将向战略判断转变。
R1时代,RAG-Retrieval技术总结与展望~
RAG - Retrieval提供全链路RAG检索模型微调、推理及蒸馏代码,支持多模型、多loss和训练方式。还发布模型技术报告,设计评估框架,未来探索RL在检索领域应用。
所谓“氛围编程”,不过是“技术债”的新马甲
本文编译自 Steve Krouse 演讲与博客,指出‘氛围编程’代码即遗留代码、‘技术债’,编程核心是理论构建。还认为工具优于智能体,代码是描述软件的正确媒介,人类大脑在编程中始终是核心。
技术更新 or 组织重塑,企业如何用好“数据智能”?
InfoQ《极客有约》X AICon 直播栏目邀专家探讨企业数据智能应用。谈及构建数据集、优化检索效率等问题,还分析数据准备挑战、DeepResearch 优势,指出数据智能落地面临组织与技术层面的挑战。
AI转型最大的门槛,不是技术,是人
浪潮信息董事长彭震在人工智能+生态大会上提出,AI转型最大门槛是人而非技术。他指出组织力不足影响业务效果,提出Humagent概念。浪潮信息还从文化、组织、流程层面推动转型,愿做客户同行者。
卡帕西Anthropic最新头衔:技术员工(MTS)
卡帕西在Anthropic头衔为技术员工(MTS)引关注,不止他,很多大佬加入Anthropic和OpenAI职级都是MTS。MTS年薪可观,其制度有防猎头、促文化认同等好处,但也被指有‘粉饰’之嫌。
谷歌成立AI基金,为初创公司提供技术、资金
谷歌宣布推出AI Futures Fund,旨在投资运用DeepMind AI工具的初创企业,提供技术、资金支持,如提前接触模型、专家指导、云服务积分和直接投资等,未透露基金规模。
Manus:3大核心策略,破解AI Agent上下文膨胀难题
当AI Agent调用工具结果大量涌入上下文窗口,LLM性能会下滑。Manus联合创始人拆解其上下文工程逻辑,给出‘减少、卸载、隔离’三大策略及模型选择等方法,还提炼出6条实践启示。