「速度提升」共找到 3333 篇相关文章
关于中美 AI 竞争的差距,我可能真的说错了
作者因读者反馈,意识到自己对中美AI竞争差距理解不全面。基模能力中国整体落后美国,但部分领域领先。模型能力提升难被多数用户感知,且中美在商业模式、模型开源等方面差异大。
自动化评测的九九归一——评测agent
本文提出统一评测Agent架构,实现评测全链路自动化。它能学习标注标准,完成自动标注等工作。还介绍架构、解耦方法、模型优化及训练方案,解决多模态幻觉等问题,提升机审率,节省标注成本。
扎克伯格的豪赌初见成效?Meta新方法让LLM长上下文处理提速30倍
Meta Superintelligence Labs提出REFRAG高效解码框架,解决LLM长上下文输入效率瓶颈。它通过四步流程优化解码,让首个token生成时间加速达30.8倍,扩展上下文,且精度不降反升,不过价值待实际检验。
刚刚,OpenAI四位华人学者集体被挖,还是Meta重金出手
Meta在发布Llama 4后开启大规模招聘,再聘四名OpenAI研究人员。这些研究员是OpenAI模型研发中坚力量,暂不知是否影响GPT - 5,Meta相关技术能否提升也待观察。
光场显微飞跃AI时代!清华等首提SeReNet:毫秒级高分辨光场三维重建
SeReNet是物理驱动的自监督三维重建网络,能毫秒级实现高保真、高分辨光场三维重建,摆脱对标签数据依赖。它全链路建模应对复杂干扰,在多实验展现价值,推动生物成像技术发展。
1200行代码逆袭!DeepSeek工程师开源轻量级vLLM,吞吐量逼近原版
开源 vLLM 可提升 LLM 推理速度和资源利用率。近日,DeepSeek 工程师俞星凯开源轻量级 Nano - vLLM,代码仅 1200 行,基准测试中吞吐量逼近原版,项目已在 GitHub 获 200 多 Star。
妈妈再也不用担心延迟了!斯坦福手搓Llama超级内核,推理仅需0.00068秒
斯坦福Hazy实验室推出低延迟推理引擎「Megakernel」,将Llama - 1B前向传播融入单一GPU内核,H100上提速1.5倍,B200上每次推理仅0.00068秒,比vLLM快3.5倍。文章分析传统引擎问题并介绍Megakernel设计。
谷歌与OpenAI对狙,Gemini主打极速性价比,GPT优化对话温度
谷歌与OpenAI对狙,谷歌发布Gemini 3.1 Flash - Lite,主打规模化性价比,专为高频场景设计,成本低、速度快;OpenAI上线GPT - 5.3 Instant,优化对话体验,减少拒答、增强联网搜索等。
ChatGPT引爆教育革命,学习效果暴涨86.7%!
新智元报道,Nature子刊元分析汇总51项研究,揭示ChatGPT显著提升中小学生学业表现和高阶思维能力,不限学科和使用方式,还能减轻精神负担,但使用需家长和老师指导。
Codex正在重塑传统推理框架开发流程
作者用Codex完善SGLang Diffusion的SKILLS流程,修复诸多bug。让其做benchmark脚本,发现不同rmsnorm性能差异。应用flashinfer rmsnorm遇问题,Codex找出原因并修复,还提升了模型性能,体现强大生产力。