在离线混部」共找到 8154 篇相关文章

开源动态8

8.6K star!!实时翻译、离线使用、支持50+语言,这个免费开源项目牛皮!

介绍开源项目RTranslator,它为Android平台实时翻译应用,用Meta的NLLB模型与OpenAI Whisper技术,本地处理保障质量与隐私。有双模式对话等功能,Github获8.6K star。

开源先锋
算法论文8

腾讯元数字人团队发布Moral RolePlay基准,揭秘大模型的「道德困境」

腾讯元数字人团队和中山大学推出「Moral RolePlay」测评基准,评估大模型扮演多元道德角色能力,揭示顶尖AI模型演不好反派,暴露模型理解社会心理复杂性的局限,还给出未来对齐技术方向。

机器之心
开源动态8

腾讯元最新开源成“最强翻译”:国际机器翻译比赛获30个语种第一

腾讯元团队的Hunyuan-MT-7B以7B总参数量获国际翻译比赛冠军,还开源了该模型及翻译集成模型Hunyuan-MT-Chimera-7B。其Shy框架有三大创新,多方面表现优异,还为垂直领域优化提供模板。

量子位
开源动态8

让图像生成告别 AI 味!清华 + 港中大 + 腾讯元联手推出SRPO

腾讯元联合港中大、清华推出SRPO,解决文生图技术痛点。它结合Direct - Align和SRPO,提升图像审美等,训练时间缩至十分钟,测试中碾压主流方法,不过对冷门风格控制和机制可解释性待提升。

AIGC开放社区
开源动态8

腾讯元推出首款开源合推理模型:擅长Agent工具调用和长文理解

6月27日,腾讯元开源首个合推理MoE模型Hunyuan - A13B,参数80B激活仅13B,推理快性价比高。它多测试集成绩好,尤其擅长Agent工具调用和长文理解,还开源两数据集填补评估空白。

AI前线
产品应用8

腾讯元A13B用130亿参数达到千亿级效果,Flash Attention作者点赞

腾讯元A13B模型仅130亿激活参数,却能和千亿级大模型竞争,获Flash Attention作者赞叹。它精准卡位性能与效率‘甜蜜点’,依托高质量预训练和结构化后训练,多方面表现突出且已全面开源。

量子位
算法论文8

你敢把「龙虾」放手机上跑吗?手机 Agent 离落地还差一道「隐私关」

港中深联合腾讯元研究揭示,手机 Agent 落地关键不成功率,而隐私边界。研究设计隐私交互协议,构建模拟 App 记录过程,将常见越界行为归类检查,评估多个模型发现诸多隐私问题。

AI科技评论
产品应用8

腾讯元AI Infra如何优化Hy3 Preview:一次大模型推理性能提升的技术拆解

文章聚焦腾讯元AI Infra对Hy3 preview模型的推理性能优化。从算子优化与融合、并行策略等五大维度,剖析技术思路、算法及收益,如Attention算子单batch长文本最高加速2.95x,还提及后续显存优化等工作。

腾讯技术工程
算法论文8

Loss收敛不代表学会:腾讯元ACL 2026拆解SFT训练中15.3%的“假学会”样本

大模型微调(SFT)是主流LLM落地方案,但大家默认训练完就是学完了。腾讯元团队发现SFT存不完全学习现象(ILP),论文完成了定义ILP、找根因、提诊断框架和验证干预等工作。

量子位
开源动态8

元3D开源端到端全景深度估计器,代码+精选全景数据已上线,线可玩

全景深度估计3D视觉领域日益受关注,但因全景数据稀缺、球面畸变问题,以往方法零样本泛化和效率不佳。腾讯元3D团队提出DA²,通过数据扩充引擎和SphereViT架构,提升性能,展现SOTA表现。

量子位