「Token向量化」共找到 1440 篇相关文章
百度造了个“AI星舰”？或成业界最完备的企业级AI平台
在2025百度云智大会上，百度智能云千帆企业级AI开发平台发布4.0新版本，核心聚焦Agent。它一站式提供开发所需能力，解决模型选型、数据盘活等难题，还有RFT工具链降精调门槛，“白盒化”助问题诊断。
The Batch: 860 | 美国解除对华AI芯片禁令
美国政府允许英伟达和AMD向中国供应符合出口限制的GPU，如英伟达H20和AMD MI308。此前美国曾阻止出口，此次是在黄仁勋游说后改变决定，也因中国放宽稀土永磁体出口管制。
特工现场实录｜纳米 AI 如何构建 L4 蜂群系统？
纳米AI更新发布L4级多智能体蜂群系统，将“协作”能力写入Agent系统底层。该系统采用三层架构管理运行逻辑，通过协作空间与A2A通信协议配合，实测稳定性佳。平台降低开发门槛，后续规划聚焦多方向。
面向6G环境感知通信！西电开源3Dx3D无线电地图数据集与生成式基准框架
面向6G，西安电子科技大学等团队联合提出高分辨率多模态三维无线电图谱数据集UrbanRadio3D，构建三维无线电图生成框架RadioDiff-3D，弥补了当前主流RM构建方法与数据集的局限。
R2没来，却等来综合性能更优的DeepSeek R1T2
抱抱脸热门排行榜出现R1变体模型DeepSeek-TNG-R1T2，构建于多个父模型之上，在智能与输出token长度间达新平衡点，速度快且测试表现佳，还给出与不同模型对比的选择建议。
万字长文！大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。
首创Mid-training范式破解RL奥秘，Llama终于追平Qwen！
上海创智学院和上海交通大学研究团队深入探讨不同基础语言模型在强化学习训练中的差异，提出中期训练策略，将 Llama 改造成适配 RL 的推理基础模型，缩小与 Qwen 性能差距，还发布了 MegaMath-Web-Pro-Max 数据集。
小米小爱同学：资源受限下，实现端侧大模型的高性能推理
InfoQ对话小米小爱同学端侧AI负责人杨永杰，探讨大模型端侧部署难题。团队自研推理框架，实现180 tokens/s推理速度，采用共享基座架构支持多业务。未来端侧大模型突破依赖硬件提升与架构演进。
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。
OnlyFans和AI女友，谁会是最后的赢家？
OnlyFans以80亿美元估值寻求出售，此时AI女友市场正疯狂扩张。OnlyFans有真实性、商业生态等底牌，AI女友有成本和个性化优势。二者各有软肋，未来或市场分化，技术进步或使天平向AI倾斜。