「推理加速技术」共找到 4954 篇相关文章
具身智能还需要一个「五年耐心」
作者与具身智能领域人士交流后认为，具身智能还需「五年耐心」。当下通用机器人进工业产线挑战大，一到两年或迎「GPT - 3.0 时刻」，但到「GPT - 4.0」阶段还需解决数据、硬件等诸多问题。
离开大厂后，“中国自动驾驶第一人”输了两次 | 甲子光年
曾被誉为“中国自动驾驶第一人”的王劲，离开大厂后创业两次皆失败。他先创办景驰科技，后因百度诉讼离开；又成立中智行，坚持车路协同技术，却因落地难、管理问题等破产。
AI当员工，24小时不休息，17天干完人类数年活！
劳伦斯伯克利国家实验室正将人工智能、自动化技术和数据系统融入科研，构建“人机共生”科研生态。像A - Lab、Autobot等工具发挥重要作用，AI还让大科学装置更智能，实现实时决策，开创“AI设计，实验验证”模式。
全国首部AI大模型私有化部署标准，公开征集起草单位和个人！
近期AI领域政策频出，企业对AI应用需求攀升，倾向私有化部署，但面临诸多问题。国内首部AI大模型私有化部署标准《人工智能大模型私有化部署技术实施与评价指南》立项，正征集起草单位和个人。
扎克伯格的豪赌初见成效？Meta新方法让LLM长上下文处理提速30倍
Meta Superintelligence Labs提出REFRAG高效解码框架，解决LLM长上下文输入效率瓶颈。它通过四步流程优化解码，让首个token生成时间加速达30.8倍，扩展上下文，且精度不降反升，不过价值待实际检验。
迈向可编程观测：在GPU Kernel中构建类eBPF风格的性能探针
文章从CUDA基础讲起，以矩阵乘法为例介绍性能调优，再到PTX汇编知识，最后引入Neutrino框架构建可编程GPU性能探针。展示了GPU Kernel性能分析从宏观到微观的技术演进，提供新分析视角。
快手发布Keye-VL-1.5，同量级SoTA，让模型真正看懂视频！
近年来，多模态大语言模型兴起，但视频理解仍是难题。快手Keye团队推出Keye-VL-1.5，通过Slow-Fast编码策略、渐进式四阶段预训练和全面后训练流程等创新，实现视频理解突破，综合性能领先。
刚刚，谷歌逃过一劫，不必出售Chrome
美国法官Amit Mehta裁定谷歌不必出售Chrome浏览器和剥离Android操作系统，但须与对手共享搜索数据、禁止签独家分销合同。判决让谷歌和投资者松口气，AI崛起影响判决走向，谷歌还面临广告技术垄断诉讼。
企业落地 NL2SQL，需要的是 AI-ready data 和 小模型
当NL2SQL从Demo走向生产，关键是‘更干净的数据底座 + 更小的专用模型 + 更可控的工程化流程’。文章指出先数据后模型，小模型足够用且落地成本低，评估要换维度，还介绍了工程化路径等内容。
国产黑马自优化「超级大脑」，全闭环Agent杀疯！一站式AI原生基建来了
AI加速落地，行业需可持续进化系统框架。清华系中数睿智将全新框架集成到语思智能平台，其5D - RAG框架破传统RAG痛点，且在多领域落地，为产业智能升级提供路径。