「端到端框架」共找到 3729 篇相关文章
大语言模型的解耦：人工智能基础设施的下一轮进化
人工智能模型发展快，但基础设施滞后，传统单体式服务器架构成瓶颈。文章介绍大语言模型推理的预填充与解码阶段差异，指出解耦架构可突破困境，还阐述其经济影响、实施策略、应用案例及未来展望。
《AI大模型与异构算力融合技术白皮书》正式发布
10月10日，中科算网等联合发布《AI大模型与异构算力融合技术白皮书》，聚焦大模型开发痛点，为开发者提供技术参考。白皮书介绍全球大模型发展概况、应用场景拓展、算力需求与挑战，指出异构算力成主流趋势。
狂涨20.8K star！GitHub 官方出品，强烈推荐！
介绍开源项目 `GitHub Desktop`，它基于Electron开发，用TypeScript编写并使用React框架，支持Windows和Mac，集成常用Git操作，有直观图形界面等特色，助开发者轻松使用Git，目前获20.8K star。
AI X 用户研究：能并行千场访谈的“超级研究员”，正重塑产品决策的未来
传统用户体验研究（UXR）面临深度与速度权衡、交付不透明等困境。AI正改写规则，将其变为企业基础设施，在多环节带来变革。市场潜力大，新老玩家竞争，未来公司需强化优势、健全合规等。
百度Qianfan-VL，发票/图表/合同等PDF识别94.75%刷新纪录！
当前主流视觉 - 语言模型在企业级应用有难点，百度千帆团队提出Qianfan - VL系列多模态大模型，在通用和企业级任务表现出色，基于自研芯片训练，还提供框架与管线降低成本。
YC 编写的 《Vibe Coding 指南》
本文是 YC 编写的《Vibe Coding 指南》，采访多位创始人总结出 AI 协作编程指南，涵盖规划流程、版本控制、测试框架等多方面，还提及 AI 在编码外的应用及持续改进方法。
成立7个月首发声！百亿美金独角兽万字雄文：攻克LLM推理非确定性难题
估值120亿美元的Thinking Machines Lab成立7个月首次公开研究成果，揭示LLM推理非确定性的真凶是kernel缺乏批处理不变性。介绍了实现批处理不变性的方法，还通过实验展示其效果及对同策略强化学习的意义。
蚂蚁集团发布KAG-Thinker，多跳问答慢思考，医疗领域拿下87分
在LLM问答领域，多跳问题存在局限性，现有方法缺乏严谨性等。KAG - Thinker是基于KAG框架的模型，将复杂问题分解，通过多模块优化知识获取，在医疗领域实用，稳定性也出色。
刚刚，DeepSeek官宣V3.1发布，Agent 能力较大提升
DeepSeek官宣V3.1发布，核心特性有混合推理架构、思考效率提升、Agent能力增强。产品形态含官方App/网页端和API升级。性能在编程、搜索智能体及思考效率上显著提升。
Google 推出超小杯 AI：Gemma 3 270M！可进手机和浏览器
Google发布Gemma 3家族最小版本Gemma 3 270M，2.7亿参数，能耗低，在同规模模型中表现突出。设计理念是“够用就行”，适合特定任务，已在多平台发布，开源策略效果好。