搜索：高性能内核生成

「高性能内核生成」共找到 3912 篇相关文章

轻量级语音模型Vui开源，支持本地部署，笑声停顿全拟真，4万小时练出人类对话感！

近日，Fluxions - AI团队在GitHub开源轻量级语音模型Vui，可设备端运行。它能精准模拟语气词、笑声等，有三款模型，适用于语音助手、播客生成等场景，解决了传统模型的痛点。

SWE - Bench创建者推出新benchmark ProgramBench，测试AI从零构建软件系统能力。结果一线模型完成率0%，暴露AI擅长局部代码生成，缺全局系统规划能力，引发对其评估方式的讨论。

阿里在Hugging Face和ModelScope上开源智能简历解析系统SmartResume，能将多种格式简历转为结构化数据，分三阶段工作，性能优于基线方法，为HR和开发者提供工具。

日常文档处理麻烦，现有工具或体积大、算力消耗高，或识别精度不够。IBM 开源轻量多模态文档处理模型 Granite - Docling，仅258M参数，性能超 GPT - 4o，适用于多场景。

谷歌推出全新底层架构Mixture-of-Recursions（MoR），推理速度提高2倍、KV内存减半，首次在单一框架实现多任务处理与动态分配计算资源，研究人员通过实验验证其性能超Transformer。

4月21日爱丁堡大学研究人员在《应用物理学杂志》发文，将“人”“大”“天”“夫”字形转化为超材料结构单元，经压缩实验发现汉字字形中藏力学规律，“天”字形材料性能最优。

CUDA代码性能对模型训练与推理重要，但手动优化门槛高。明尼苏达大学团队提出CudaForge，是低成本多智能体CUDA Kernel生成与优化工作流，实验效果好，成本低且具通用性。

亚马逊机器人团队FAR发布人形机器人研究成果OmniRetarget，它能让强化学习策略在复杂环境学技能并零样本迁移。该成果通过交互网格建模关系，经实验验证优势明显，背后团队由华人学者领衔。

文章围绕vLLM PIECEWISE CUDA Graph技术展开，介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容，PIECEWISE技术让vLLM在prefill阶段性能提升。

扩散模型时间特征对量化敏感，现有量化方法会致其扰动，影响图像质量。港科大等多校团队提出TFMQ - DM框架，优化时间特征相关模块，提升低比特量化性能，实现硬件加速。