「软件栈优化」共找到 2058 篇相关文章
自回归因果注意力也能并行解码？上交联合UCSD突破LLM推理瓶颈，模型代码全开源
大语言模型推理速度是应用瓶颈，传统方法各有弊端。上交和UCSD团队提出Jacobi Forcing方案，无需重构架构，将AR模型转为并行解码器，提速显著且质量损失小，核心优势多，技术路线全链路优化，实测表现优。
抖音&LV-NUS开源多模态新模，以小博大刷新SOTA，8B推理比肩GPT-4o
抖音SAIL团队与LV - NUS Lab联合推出多模态大模型SAIL - VL2，以中小参数规模在106个数据集实现性能突破。该模型从架构、数据、训练三方面创新，后经全链路优化，在多数据集验证中表现卓越。
英伟达韩松团队新作：具有后神经架构搜索的高效语言模型
英伟达韩松团队推出基于后神经架构搜索的高效语言模型Jet - Nemotron，在基准测试中表现出色，准确率与Qwen3等相当甚至更优，生成吞吐量大幅加速。模型构建经多步骤优化，代码和预训练模型将开源。
腾讯Kuikly框架进一步开源，新增支持Web，开启一码五端新体验！
腾讯Kuikly框架进一步开源，新增Web版支持H5和微信小程序。该框架基于Kotlin Multiplatform，已被20+业务深度使用。与主流框架对比，它在产物大小、加载速度等方面优势明显，还将持续优化和拓展。
半年研发、1周上线，1秒200行代码爆发？美团研发负责人：靠小团队奇袭，模型和工程能力突破是核心
6月10日美团推出首款AI Coding Agent产品NoCode。美团基础研发平台工程效率负责人程大同在访谈中解答诸多问题，如模型性能优化、产品竞争力、用户使用难点等，还提及产品未来规划和对行业发展的看法。
最近新出现的两个提示词注入攻击场景
随着AI应用广泛，提示词注入攻击场景增多。一是Checkpoint发现带注入攻击的恶意软件，与AI分析系统对抗；二是多所大学论文含面向AI的秘密指令，对抗AI审稿。本质是攻防双方的对抗，且会持续。
OpenAI久违发了篇「正经」论文：线性布局实现高效张量计算
OpenAI 近日发布研究论文，提出用于高效张量映射的统一代数框架 Linear Layouts，解决了 Triton 等深度学习编译器中长期存在的难题。该框架是使用二元线性代数的张量布局通用代数形式，评估显示其优化版 Triton 性能有提升。
6位前DeepMind老将打造「AI指挥官」，一半成本刷新SOTA
6名前Google DeepMind成员创立Poetiq，搭建元系统让前沿大模型自动生成解决特定任务的策略和模型组合，降低推理成本。其Gemini 3 Pro优化技术在ARC - AGI - 2上创SOTA，成本仅为之前最优方法一半。
英伟达铁幕之后，谷歌AI芯片已成气候
英伟达在AI领域风头正劲，谷歌却在幕后打造AI基建帝国。谷歌CEO官宣第七代TPU Ironwood商用，算力惊人。谷歌TPU历经十年进化，已形成成熟产品组合，且构建了全栈AI生态，未来发展势能深厚。
32倍加速，58秒搞定720p视频！字节发布离散自回归框架，统一视觉生成和长视频生成
字节发布InfinityStar框架，将5秒720p视频生成时间从30多分钟缩至58秒，还支持多样任务。它基于对视频本质思考设计时空金字塔模型，将时空分离，通过多项技术优化，性能表现出色，不过也存在一些技术局限。