「端侧方案」共找到 954 篇相关文章
96.6%召回率，0美元成本：这款开源AI记忆系统凭什么超越一切付费方案
AI记忆差困扰技术人，MemPalace开源AI记忆系统解决痛点。它可本地运行、0成本，召回率最高达100%，采用独特结构设计和AAAK语言，还能通过MCP提供工具能力，且团队诚实说明偏差。
不用额外缓存！英伟达开源大模型记忆压缩方案，128K上下文提速2.7倍
英伟达联合多机构推出TTT - E2E方法，在长文本处理上提速显著且性能不打折。它基于标准Transformer，将长文本建模转为「持续学习」任务，核心是上下文压缩，避免额外缓存，代码和论文已开源。
2.6K Star！超逼真端侧TTS模型，0.5B参数3秒音频即时克隆！
文章介绍开源项目NeuTTS Air，它是免费、轻量级超逼真语音合成模型，仅0.5B参数，媲美商用TTS引擎，能在低功耗设备运行，支持3秒音频克隆声音，还给出使用步骤和应用场景。
苹果端侧AI两连发！模型体积减半、首字延迟降85倍，iPhone离线秒用
苹果在Hugging Face放出FastVLM与MobileCLIP2两条多模态主线。前者主打「快」，首字延迟压到竞品1/85；后者突出「轻」，体积减半。模型和Demo已开放，开发者可集成开发。
训练时间减半，性能不降反升！腾讯混元开源图像生成高效强化方案MixGRPO
混元基础模型团队提出全新框架MixGRPO，结合SDE和ODE，简化MDP优化流程，提升效率与性能。还推出更快变体MixGRPO - Flash。MixGRPO训练时间降近50%，MixGRPO - Flash再降71%，效果和效率优于DanceGRPO。
OpenAI谷歌Anthropic罕见联手发研究！Ilya/Hinton/Bengio带头支持，共推CoT监测方案
OpenAI、谷歌DeepMind、Anthropic联合发表立场文件，提出CoT监测概念，认为是控制AI Agent核心方法。探讨其潜在机遇、局限，还提及不同公司对CoT监测的不同态度，如OpenAI乐观，Anthropic焦虑。
大模型如何泛化出多智能体推理能力？清华提出策略游戏自博弈方案MARSHAL
近日，清华大学等机构研究团队提出 MARSHAL 框架，利用强化学习让大模型在策略游戏自博弈。实验表明，多轮、多智能体训练提升了模型博弈决策水平，将推理能力泛化到通用多智能体系统，在一般推理任务表现显著提升。
推理快30%，性能超过千亿参数模型，15B模型Apriel-1.6重新定义端侧推理
ServiceNow人工智能团队发布的Apriel-1.6-15b-Thinker，以150亿参数体量，多模态推理能力强，推理Token消耗降超30%。它在AI分析指数成绩佳，优化计算成本，还介绍了训练策略与多维度性能实测情况。
全图与切片并非等价？LLaVA-UHD-v3揭示差异推出高效全图建模方案
随着多模态大模型发展，处理高分辨率图像成关键。主流视觉编码范式难兼顾性能与效率，清华和中科院团队发布 LLaVA-UHD v3，提出 PVC 框架，对比 SBE 和 GNE，验证其在提升效率同时保留模型能力。
阿里新开源提出建设性安全对齐方案，向“让用AI的人安全”新范式跃迁
阿里巴巴集团安全部联合多高校发布技术报告，提出建设性安全对齐理念并集成到Oyster - I模型。该理念突破传统防御式机制，构建新博弈框架，实验显示该模型在安全和通用能力上达SOTA水平。