「离线运行」共找到 624 篇相关文章
LightX2V Ulysses Attention 实现学习笔记
本文记录了LightX2V中Ulysses Attention的实现方式与张量形状推导。在多模态/视频场景，其实现可概括为一种layout变换，还提供`enable_head_parallel`和`use_fp8_comm`选项，效果受运行环境等因素影响。
AAAI 2026｜AP2O-Coder 让大模型拥有「错题本」，像人类一样按题型高效刷题
在AI辅助Coding技术发展背景下，开源大语言模型生成代码有运行错误。上交博士团队提出AP2O方法，构建AP2O - Coder框架，借鉴人类学习模式，经实验验证能提升模型性能、抑制错误、提高样本效率，还适配通用模型。
云计算一哥，给 Agentic AI 工程做“减法”
2025 年亚马逊云科技 re:Invent 大会聚焦 Agent，其首席执行官提出未来各领域将运行数十亿 Agent。该公司欲在 Agentic AI 上重构，推出系列工具，如 Amazon Strands Agents SDK、Amazon Bedrock AgentCore 等，还在模型训练和工程化方面做减法。
本周推荐的6个yyds的Github开源项目！
文章推荐6个GitHub开源项目。如Stretchly是休息提醒工具，助打工人养成科学节奏；Yaak是API客户端，主打离线隐私；ValueCell用于金融AI分析交易；nof1 - tracker可跟单交易；Zerox转换文档为Markdown；Open Notebook是Google Notebook LM平替。
万物皆可AI的时代？Arm发布全球首个Armv9边缘AI计算平台
Arm发布全球首个Armv9边缘AI计算平台，核心是Cortex - A320 CPU和Ethos - U85 NPU，能让小设备本地运行超10亿参数AI模型。边缘AI市场增长快，Arm转型切入，平台软硬结合优势明显，还有豪华朋友圈支持。
【博客转载】CUDA Reduction
文章来自Lei Mao，介绍CUDA归约操作。先阐述归约操作在并行计算中的常见性，接着实现两个批量归约求和kernel，还给出构建和运行示例的命令及结果。最后探讨大数组归约求和的方法及性能影响。
AI Infra进入自进化时代！清华团队用「AI优化AI」造就国产万亿Token工厂
AI自主优化RSI成新焦点，被视为通往AGI的关键路径。硅谷为此沸腾，中国也不落后。清昴智能由清华团队创立，率先打造自进化算力底座，还基于国产算力打造万亿Token工厂，目标是让优化成为持续运行的基础能力。
腾讯Omega：下一代“AI BI”的答案？
本文介绍腾讯 Omega，它是为解决传统 BI 和 ChatBI 问题而设计的数据分析产品。Omega 能理解业务问题，生成完整 Dashboard，确保数据流动、安全和稳定，还支持人机协作，提供审美基础设施，性价比高，有完善运行时和监控推送等功能。
AI圈刚开始谈Loop Engineering，两位95后博士已经盯上了人类闭环数据
AI圈热词Loop Engineering强调AI工程应从单次prompt转向设计持续运行的闭环系统。具身智能争抢人类第一视角数据，脸谱心智由95后博士创立，发布Looped World Models，还提出Ego - NeuroLoop数据范式及相关采集和增强工具。
首发Omni-Flow流式全模态架构，消费级显卡就能跑
面壁智能等联合发布MiniCPM-o 4.5技术报告，公开Omni-Flow流式全模态框架。该模型凭9B参数实现端到端全双工全模态，可在消费级显卡运行，还推出在线体验Demo等，性能表现佳，应用潜力大。