「非Transformer架构」共找到 2528 篇相关文章
Mini-SGLang,30万行代码浓缩为5000行,大模型推理高性能教学与研究模版
SGLang发布Mini-SGLang,将30万行代码缩至5000行,保留核心特性,为大模型推理提供高性能教学与研究模版,解决教育门槛高和科研原型开发难的痛点,还经测试验证了性能。
极简RL新范式:一半算力刷新1.5B模型推理SOTA
过去为提升中小参数量模型推理能力,开发者构建复杂RL流水线。JustRL论文提出极简、单阶段、固定超参训练方案,在两主流1.5B模型上刷新SOTA,节省2倍算力,消融实验还揭示部分技巧会致性能退化。
“双英”同框解释“算力联姻”:眼前的恩情未来的路
北京时间9月19日凌晨,英伟达黄仁勋与英特尔陈立武同屏直播,解释英伟达50亿美元入股英特尔事宜。双方将融合技术,构建AI计算基座,瞄准近500亿美元市场,投资也会影响产业竞争格局。
首个Data Agent基准测试来了!2007个测试任务将数据库、PDF、视频、音频异构数据源一网打尽
南洋理工大学、新加坡国立大学与华为开源首个针对数据智能体异构混合数据分析的基准测试FDABench。它有2007个任务,覆盖多领域多数据源,独创协作框架,能测多种工作流模式的数据智能体。
奥特曼给ChatGPT空降高管,11亿美元收购独角兽创始人加入OpenAI…这剧情好熟悉啊
OpenAI将以11亿美元全股票收购Statsig,原高管加入负责ChatGPT等产品线。同时内部重大人事调整,重心转向应用程序,成立独立组织负责开发运营,还加强ToB业务拓展。
Andrej Karpathy 辣评Veo 3:视频生成将直接优化人类的注意力,TikTok只是弟弟
Andrej Karpathy发文对Google的Veo 3视频生成模型发表见解,指出视频生成技术进步带来四个关键转变,认为视频将成AI与人类交流绝佳界面,也引发众人对其利弊的讨论。
ChatGPT 为什么越来越“懂你”?一文解析它背后的记忆机制
今年4月,OpenAI对ChatGPT记忆系统重磅升级,可参考过往对话提供个性化响应。软件工程师Eric Hayes拆解其双重记忆架构,推测实现机制,探索对用户体验的重塑。
12秒生成1万token!谷歌推出文本「扩散模型」Gemini Diffusion,研究员:演示都得降速看
谷歌将图像生成常用的“扩散技术”引入语言模型,推出Gemini Diffusion,12秒能生成1万tokens,速度比Gemini 2.0 Flash - Lite更快。它通过逐步优化噪声学习生成输出,目前是实验性演示,可申请体验。
新手入门 | 搭建 AI 模型开发环境
文章为新手提供AI模型开发环境搭建方法,涵盖安装显卡驱动、CUDA、cuDNN、Miniconda、PyTorch、Transformers等,还介绍用Modelscope下载加载模型、PyCharm配置及解决常见问题。
Claude后台接管电脑,真·赛博替身!人机并行时代来了
Anthropic宣布全面升级Claude「计算机使用」能力,操作可在后台完成。该功能处于Beta测试,已向Claude Pro和Max订阅的macOS用户开放。Claude此次更新覆盖多场景,人机并行时代或来临。