「低资源语言」共找到 2336 篇相关文章
低延迟、高吞吐，LLM优化与高效推理引擎综述
LLM计算成本高，用户要低延迟，企业要高吞吐。工程师开发优化技术，如动态批处理、KV缓存、模型量化。论文对比25款推理引擎，还探讨了多模态支持、手机端推理、新型架构支持等进化方向。
大语言模型的解耦：人工智能基础设施的下一轮进化
人工智能模型发展快，但基础设施滞后，传统单体式服务器架构成瓶颈。文章介绍大语言模型推理的预填充与解码阶段差异，指出解耦架构可突破困境，还阐述其经济影响、实施策略、应用案例及未来展望。
The Batch：841 | 大语言模型正在纠正历史遗留的不公
美国北加州旧不动产契约含种族歧视条款，虽已非法但人工筛查耗时久。斯坦福和普林斯顿研究团队微调大语言模型识别圣克拉拉县契约中的歧视条款，模型可理解上下文，结果经律师确认，研究成果已开源。
不再止步于自然语言！PhiZero让世界模型学会「物理语言」
PhiZero由中科院自动化所团队研发，探索让AI读懂真实世界运动、交互与变化的“物理语言”。它构建Reason - then - Render框架，经大量数据训练，在多基准测试中表现领先，为AI理解物理世界开辟新通道。
谷歌翻译新功能上线 iOS：支持任意耳机，实时听懂70+语言
谷歌翻译耳机实时翻译功能正式登陆 iOS，在 iOS 和 Android 端覆盖范围扩大，新增多国市场，支持超 70 种语言。打开 App 连接耳机即可实时听懂对方说话，适用于家庭和出行场景。
最新发现！每参数3.6比特，语言模型最多能记住这么多
Meta、DeepMind等团队研究语言模型记忆容量，提出新方法估计模型对数据点的‘了解’程度，发现GPT系列模型约每个参数3.6比特，还提出模型容量等相关定律，激发社区多方面思考。
纯本地隐私绝佳，没网也能翻，30+语言支持！
日常常用翻译工具依赖云端，有隐私风险。开源离线翻译项目`Argos Translate`，基于Python开发，支持多语言互译，有多种使用形式。虽翻译精度略逊，但隐私性好、可自由部署，适合有安全需求的用户。
低延时、可交互的音频驱动肖像视频生成框架LLIA
美团提出新型音频驱动肖像视频生成框架LLIA，是低延迟、可实时交互的虚拟形象生成技术。它提出四项核心技术，引入三大核心模块，构建超100小时数据集，在多方面有出色表现。
NVIDIA 开源 Live VLM WebUI：摄像头实时测试视觉语言模型
NVIDIA 开源 Live VLM WebUI，可让用户在本地用摄像头实时测试视觉语言模型。它基于 WebRTC 技术，能将摄像头视频流实时传输给模型，分析结果叠加在画面上，支持多后端、多平台及多种模型。
Hugging Face 发布 FineTranslations：一个万亿级的多语言平行文本数据集
Hugging Face 发布 FineTranslations，这是含超 1 万亿 Token 的多语言数据集，用于提升机器翻译质量。它源于 FineWeb2，用 Gemma3 27B 翻译创建，数据生成流程可复现公开，还能用在其他任务。