「推理优化技术」共找到 5358 篇相关文章
AI当员工，24小时不休息，17天干完人类数年活！
劳伦斯伯克利国家实验室正将人工智能、自动化技术和数据系统融入科研，构建“人机共生”科研生态。像A - Lab、Autobot等工具发挥重要作用，AI还让大科学装置更智能，实现实时决策，开创“AI设计，实验验证”模式。
全国首部AI大模型私有化部署标准，公开征集起草单位和个人！
近期AI领域政策频出，企业对AI应用需求攀升，倾向私有化部署，但面临诸多问题。国内首部AI大模型私有化部署标准《人工智能大模型私有化部署技术实施与评价指南》立项，正征集起草单位和个人。
扎克伯格的豪赌初见成效？Meta新方法让LLM长上下文处理提速30倍
Meta Superintelligence Labs提出REFRAG高效解码框架，解决LLM长上下文输入效率瓶颈。它通过四步流程优化解码，让首个token生成时间加速达30.8倍，扩展上下文，且精度不降反升，不过价值待实际检验。
迈向可编程观测：在GPU Kernel中构建类eBPF风格的性能探针
文章从CUDA基础讲起，以矩阵乘法为例介绍性能调优，再到PTX汇编知识，最后引入Neutrino框架构建可编程GPU性能探针。展示了GPU Kernel性能分析从宏观到微观的技术演进，提供新分析视角。
快手发布Keye-VL-1.5，同量级SoTA，让模型真正看懂视频！
近年来，多模态大语言模型兴起，但视频理解仍是难题。快手Keye团队推出Keye-VL-1.5，通过Slow-Fast编码策略、渐进式四阶段预训练和全面后训练流程等创新，实现视频理解突破，综合性能领先。
刚刚，谷歌逃过一劫，不必出售Chrome
美国法官Amit Mehta裁定谷歌不必出售Chrome浏览器和剥离Android操作系统，但须与对手共享搜索数据、禁止签独家分销合同。判决让谷歌和投资者松口气，AI崛起影响判决走向，谷歌还面临广告技术垄断诉讼。
斩获5.5K star！！AI 加持到位，安全感拉满，这个升级版开源知识库神器太顶了！
两个月前分享的开源AI知识库项目PandaWiki，迭代速度惊人。此次更新多个大版本，编辑器体验提升，AI成智能客服，支持20+家模型供应商，还优化团队协作功能和诸多细节，更成熟实用。
企业落地 NL2SQL，需要的是 AI-ready data 和 小模型
当NL2SQL从Demo走向生产，关键是‘更干净的数据底座 + 更小的专用模型 + 更可控的工程化流程’。文章指出先数据后模型，小模型足够用且落地成本低，评估要换维度，还介绍了工程化路径等内容。
面壁MiniCPM-V4.5新王炸！8B手机10FPS长视频秒懂，文档手写全能识别！
面壁上新最强端侧多模态模型MiniCPM-V 4.5，基于Qwen3 - 8B与SigLIP2 - 400M构建，总参数量8B。它视觉语言理解强、手机能跑，有高帧率视频理解等特点，还有多方面技术亮点。
阿里老兵造出会说话的迪迦！AI玩具单品20万销量，红杉等2亿A轮抢投
跃然创新推出全球首款迪迦奥特曼AI玩具，完成2亿A轮融资。其首代产品BubblePal销量达20多万台。新品改进诸多不足，优化体验，强调安全。公司瞄准AI Friend，未来产品分儿童和成年线。