「AI推理系统」共找到 11807 篇相关文章
Meta「轻量级」KernelLLM颠覆GPU内核生成，8B参数碾压GPT-4o
Meta推出基于Llama 3.1微调的8B参数KernelLLM，能将PyTorch代码转高效Triton GPU内核。实测单次推理性能超GPT - 4o和DeepSeek V3，多次生成得分更高，让内核开发更易上手。
目标出货一亿台，Altman和Ive的新公司「io」到底要做什么硬件？
本周三，OpenAI收购AI硬件创企「io」，引发对合作细节和硬件产品的猜测。Sam Altman和Jony Ive计划打造非手机、眼镜的设备，成第三核心小工具，计划出货1亿台，目标明年年底推出。
ACL 2025 | 清华&港中文提出 MorphMark：全新理论视角破解大模型水印效力与文本质量的两难困境
随着大模型广泛应用，AI 生成内容追溯和版权保护成问题，现有水印技术面临效力与文本质量的矛盾。清华和港中文团队提出 MorphMark 自适应水印框架，动态调强度，在多模型实验中表现优。
真碾压Sora了！谷歌Veo 3首次实现音画同步，视频模型直接「开口说话」
谷歌正式发布Veo 3，它能生成高质量视频，还能理解原始像素，自动生成与画面同步的对话、多种音效。得益于DeepMind的V2A底层技术，其音画合成功能领先。虽有时长和使用门槛限制，但已足够震撼。
深度解析大模型技术演进脉络：RAG、Agent与多模态的实战经验与未来图景
大模型作为产业变革核心引擎，RAG、Agent与多模态技术重塑AI与现实交互边界。本文解析技术演进脉络、实战经验与未来图景，介绍三者在各领域应用及面临挑战，为产业升级提供指引。
Manus突发上新文生图！告别“抽卡”，Agent+深度思考联合创作
Manus深夜官宣支持生成图像，与一般AI绘图工具不同，它能理解画图目的，规划方案后再生成。它可完成如房间装修可视化、饮料瓶设计等任务。目前已开放注册，不过付费价格遭网友吐槽。
Speech-02语音模型登顶国际榜单：完美复刻声音，同事听后难辨真伪
MiniMax的Speech-02语音模型登顶国际榜单，超越OpenAI等海外模型。它引入可学习说话人编码器，有高扩展性，还能结合文本描述生成音色。测试显示其音色丰富、读音准、支持多语种，声音复刻逼真。
21
本文聚焦vllm v1中管控模型分布式推理的核心Executor部分，介绍其4种类型及适用场景，以mp类型为例阐述Executor - Workers架构，还说明了大小数据在两者间的传输机制及原理。
黑洞信息悖论推进至“定量完备性模量”：清华团队开源VeriLoop E2迈向可验证智能
针对大模型长链推理、科研任务中无法自我验证结果可靠性的结构性缺口，清华团队推出开源项目VeriLoop E2，拆分模型探索权与外部证据提交权，在多场景完成验证，推进可验证智能发展。
假如有一万张卡，RL训练该怎么扩大规模？十万张呢？
本文是腾讯混元团队针对大模型强化学习规模化训练的研究，聚焦万卡级算力下Batch Size优化问题，拆分样本效率与系统效率的影响，给出可落地的调优框架，实测可缩短29%训练时间。