「速度提升」共找到 3336 篇相关文章
SAPO：让强化学习告别“硬剪切”
强化学习是提升大语言模型推理能力的核心技术之一，但现有基于组的策略优化方法面临 token 级重要性比率高方差问题。GRPO 和 GSPO 采用硬剪切有学习信号丢失等缺点。为此提出 SAPO，用平滑门控函数替代硬剪切，实验效果良好。
【博客转载】CUDA Vectorized Memory Access （文末送书）
文章展示如何用向量化内存访问提高CUDA函数有效内存带宽，实现朴素自定义设备内存拷贝函数，对比不同数据类型、大小及方法的性能，得出拷贝数据单元多、单元大及以8或16字节向量化单元拷贝可提升带宽等结论。
文心X1.1三大能力狂飙，海内外实测还挺惊艳！
9日WAVE SUMMIT深度学习开发者2025大会上，文心大模型X1.1发布，事实性、指令遵循、智能体能力显著提升，多项测试表现佳。它能做到知识一致，精准遵循指令，智能体解决问题出色，代码、数学、多模态能力也有进化，得益于迭代式混合强化学习训练框架。
HBM之父：HBM的终点是HBF
韩国SK海力士宣布完成HBM4开发，它将成数据中心和AI芯片首选。HBM4有出色数据处理速度和能效，应用后AI服务性能或提升69%。HBM之父金正浩教授预测，未来HBF将取代HBM，还提出金氏定律指导行业发展。
有生之年吃到了钉钉的细糠
作者参加“2025 钉钉十周年暨新品发布会”，体验了钉钉 8.0 版本。该版本开启 AI 1.0 新篇章，界面焕然一新，以钉钉 One、AI 搜问等重塑工作流程，还升级语音智能硬件，实现信息处理闭环，提升企业与员工效率。
Anthropic刚发布了一份「AI抢饭碗报告」：学历越高越「被抢」
Anthropic《经济指数报告》揭示，任务越复杂AI加速越猛，学历高的工作受影响大。还指出人机协作能大幅提升任务时长，不同国家AI应用有贫富和技术代差，也提到了‘去技能化’问题及对生产率的预测。
究竟会花落谁家？DeepSeek最新大模型瞄准了下一代国产AI芯片
近期，DeepSeek发布V3.1新模型，采用全新混合推理架构，在多任务表现上有提升。它采用UE8M0 FP8，或为国产推理芯片优化机制。国内多家厂商新一代AI芯片支持FP8，未来国产大模型或针对其专门优化。
用「传心术」替代「对话」，清华大学联合无问芯穹、港中文等机构提出Cache-to-Cache模型通信新范式
随着大语言模型发展，多智能体系统中现有T2T交流方式有信息丢失、语义模糊、延迟大问题。清华等团队提出C2C信息传递方式，以KV - Cache为媒介，提升了正确率和速度，还介绍了实现路径、优势及应用前景。
第二代InfLLM开源，同尺寸快三倍！零参数，可训练稀疏注意力
新智元报道，清华、OpenBMB和哈工大提出零额外参数、训练高效的原生稀疏注意力框架InfLLM-V2，仅用5B长文本词元就能完成训练，相比稠密注意力机制有显著加速，性能接近传统稠密模型。
构建会“说话”和“行动”的 AI：生成式数字人技术与 EchoMimic 实践
在 QCon 全球软件开发大会上，支付宝李宇明围绕 EchoMimic 介绍生成式数字人进展、技术、应用及研究思路。对比传统数字人，生成式数字人成本低、易控制，但也有技术新、推理成本高的问题。EchoMimic 两版本已开源，经优化推理速度可提升。