「嵌入式分析引擎」共找到 1421 篇相关文章
LLM内部竟藏着众多策略模型？自所&腾讯团队首次揭示大模型RL新机制
中国科学院自动化研究所、腾讯AI Lab团队从可解释性分析出发，发现LLM内部含多个可采样内部策略，揭示不同模型推理熵模式，提出BuPO算法，在复杂推理任务上性能显著优于传统算法。
Hybrid Model Support：阿里云 Tair 联合 SGLang对 Mamba-Transformer 等混合架构模型的支持方案
文章介绍阿里云 Tair KVCache 团队与SGLang社区在推理框架上支持混合架构模型的工程化实践。分析混合架构崛起原因、面临挑战，阐述内存管理、关键技术优化方案，验证性能，并指出未来演进方向。
罗福莉携小米MiMo-V2-Flash首次亮相：一次在推理与Agent上的下注｜甲子光年
大模型进入新阶段，效率成能力一部分。小米MiMo团队12月16日晚发布并开源MiMo - V2 - Flash，负责人罗福莉首亮相。该模型在推理、编程和智能体场景表现出色，在架构、训练方法等有创新。
还在手搓PPT？试完这款AI，我连夜卸载了付费模板库
新智元报道，今年AI从「卷分数」变为「卷干活」。商汤升级的「办公小浣熊3.0」是超级「办公搭子」，能做PPT、分析数据、写报告。其APP即将上线，还实现全链路国产化适配。
天孚通信市值1600亿，小镇青年如何逆袭江西宜春首富？
A股市场上，由新易盛、中际旭创、天孚通信组成的光模块“易中天”走红。天孚通信市值达1600亿，其创始人邹支农出身农村，带领公司造出国产陶瓷套管并上市。公司前瞻性布局契合AI算力需求，深度绑定英伟达，业绩增长显著。
「Memory as a Context」是否将重新定义 Transformer 的 「记忆模式」？
本期机器之心PRO会员通讯解读3个AI业内要事，包括「Memory as a Context」能否重新定义Transformer记忆模式、世界模型发展情况，以及OpenRouter联合a16z发布的《State of AI》报告。详细探讨了谷歌Titans架构及其理论框架MIRAS，还提及业界对LLM记忆力的改进方案。
Human In the Loop竟然可以是个MCP?
文章基于阿里实践，阐述如何在大模型研发平台OpenLM及其他Agent平台，针对“Human In The Loop”场景做产品设计与研发。介绍用MCP实现人机回路的方案，还探讨人类回答及提示词倾向性等问题。
Transformers来到了v5时代：从工具包到真理之源，AI时代的操作系统内核的极简进化论
Transformers v5发布，通过极简定义和极致互通成AI生态核心。它做减法重构代码、拓展训练流程、成推理引擎弹药库、提升量化为核心功能，连接训练、推理与部署，是AI生态通用语言。
在 Cache-DiT 框架下实现原生 Serving功能
Cache-DiT 是唯品会开源的 PyTorch 原生 DiT 推理加速引擎，此前聚焦离线推理。现实现完整 Serving 功能，支持单卡与分布式推理模式。文章介绍其实现过程、借鉴 SGLang 的设计，还总结踩坑及使用方法。
DeepSeek在Agent上做了件大事！
昨天DeepSeek发布V3.2正式版，强化Agent能力并融入思考推理，其在Agent评测达开源模型最高水平。文中分析Agent成开源‘心病’的痛点，介绍DeepSeek相关解决策略及成果，还给出使用示例。