「加速框架」共找到 2168 篇相关文章
超越免训练剪枝：LightVLA引入可微分token剪枝，首次实现VLA模型性能和效率的双重突破
文章介绍LightVLA框架，它是用于提升VLA推理效率和性能的视觉token剪枝框架。针对VLA模型计算开销大、推理延迟高问题，提出两大创新，在LIBERO实验中性能超经典模型，还实现推理加速。
OpenAI久违发了篇「正经」论文：线性布局实现高效张量计算
OpenAI 近日发布研究论文，提出用于高效张量映射的统一代数框架 Linear Layouts，解决了 Triton 等深度学习编译器中长期存在的难题。该框架是使用二元线性代数的张量布局通用代数形式，评估显示其优化版 Triton 性能有提升。
Codeforces难题不够刷？谢赛宁等造了个AI出题机，能生成原创编程题
LiveCodeBench Pro团队推出AutoCode框架，利用LLM自动化竞赛编程问题创建与评估。该框架结合验证器 - 生成器 - 检查器框架与双重验证协议，在测试用例生成上可靠性佳，还能生成新问题，同时揭示了LLM在创作上的优劣势。
从 Langchain 到 Spring AI，我们究竟需要怎么样一个企业级 AI 开发基础设施？
文章指出AI Agent应用开发方式演变快，企业构建AI Agent体系面临挑战。介绍了AI Agent应用架构变化及趋势，如AI应用平台低代码效应、框架与平台双轨并行等，还总结了四类AI Agent框架及企业级框架平台核心考量。
端侧AI加速到来，个人隐私如何保护？
Deepseek推动端侧AI加速落地，苹果、谷歌等企业纷纷布局。不过，端侧AI在发展中面临融合不佳、数据安全等问题。阿里研究院傅宏宇提出保障数据安全的建议，监管层也出台相关法规。
AI驱动增长，国产半导体设备加速突围
2025年全球半导体设备市场在AI拉动下增长，销售额预计达1330亿美元。中国市场领跑，国产企业加速突围。AI算力、存储芯片需求及后道封装测试成增长动力，本土企业在多领域取得进展，但也面临挑战。
阿里云发布Qwen Cloud，加速AI出海！
阿里云在新加坡面向海外发布Qwen Cloud、Agent产品MuleRun等一系列产品及更新，实现云基础设施升级。Qwen Cloud是全新AI产品官网，Qwen3.7 - Max位列全球第五，Qoder用户超500万，阿里云基础设施迈入Agentic Cloud。
Swift 跨平台框架 Skip 现已完全开源
Skip 是用 Swift/SwiftUI 代码库创建 iOS 和 Android 应用的方案，经三年开发后团队将其完全开源，此前为付费方案。开源既是因开发者希望免费获工具，也为保证工具持久性，它能实现原生体验。
在 Cache-DiT 框架下实现原生 Serving功能
Cache-DiT 是唯品会开源的 PyTorch 原生 DiT 推理加速引擎，此前聚焦离线推理。现实现完整 Serving 功能，支持单卡与分布式推理模式。文章介绍其实现过程、借鉴 SGLang 的设计，还总结踩坑及使用方法。
ZeroGPU Spaces 加速实践：PyTorch 提前编译全解析
本文聚焦 ZeroGPU Spaces 加速实践，介绍 PyTorch 提前编译。ZeroGPU 使在 Hugging Face Spaces 用 Nvidia H200 硬件更高效，但有局限。提前编译可优化模型，提升演示速度，还分享了接入方法、高级技巧及演示示例。