「高性能Kernel」共找到 3449 篇相关文章
内存减6倍、精度0损失,推理提速8倍!谷歌新技术震撼了AI圈
Google Research团队推出TurboQuant技术,能将KV缓存6倍压缩、无精度损失,推理速度提升8倍,解决内存瓶颈问题,为大语言模型应用扫清障碍,引发业界关注,还致存储芯片巨头股价大跌。
必看!Sebastian Raschka新博客盘点了所有主要注意力机制
著名AI技术作家Sebastian Raschka发布博客《现代LLM中注意力变体的可视化指南》,回顾近年开发并用于开放权重架构的注意力变体,包括多头、分组查询、多头潜在等注意力机制,还分析各机制特点、应用场景及优劣势。
把 MiniMax M2.7 扔进真实业务里:它替我省了 BI 和程序员的钱
作者测试 MiniMax M2.7,用含复杂数据的 Excel 测试其办公能力,让其开发管理系统验证工程能力,还测试 MaxClaw 多步骤 Agent。结果显示它表现出色,但处理复杂事件仍待优化。
复旦北大联合美团LongCat提出TDAR:用“粗思考,细求证”破解Block Diffusion的速度精度悖论
复旦大学、北京大学联合美团LongCat提出Block Diffusion推理模型Test-Time Scaling新框架TDAR,引入‘粗思考,细求证’范式与有界自适应置信度解码,打破速度与精度零和博弈,在多基准测试表现出色。
数据邪修大法好:仅用文本数据就能预训练多模态大模型
多模态大模型研发中,行业认为无图文对就无多模态能力。但ReVision研究表明,预训练阶段昂贵配对关系非必需,利用非配对数据统计信息修正文本表征,能实现跨模态互换,降低成本。
模型声称会“脑补”,结果被论文打脸了?潜在空间想象竟是“摆设”!
多模态大模型中“潜在视觉推理”概念很火,研究者让模型在潜在空间“想象”。但清华和北交学者论文指出,潜在 Token 不关心输入、不影响输出、没信息量。作者提出 CapImagine 方案,效果远超潜在空间方法。
4.1K Star!发现一个超轻量的 OpenClaw 平替项目,比 OpenClaw 内存少 99%!
开发者运行OpenClaw成本高,Sipeed推出超轻量开源项目PicoClaw。它内存占用小于10MB,成本只需10美元硬件,启动快、可移植,功能全,还介绍了入手方式和技术路线。
Reorx:OpenClaw 正在重塑我的数字生活,以及为什么我退订了所有 SaaS
知名技术博主 Reorx 记录用 OpenClaw 将工作流从“云端租赁”迁回“本地私有”的过程。AI 正从云端服务变为本地基础设施,他退订 SaaS 用 OpenClaw 重塑数字生活,虽有不足但能拿回数据控制权。
英伟达员工晒年终奖,黄仁勋霸气签皮衣;Moltbook爆火:当AI有了自己的社交网络;又一“95后”清华天才科学家庞天宇加盟腾讯混元 | Q资讯
本文汇总 AI 行业热点,有 Moltbook 成 AI 社交平台且爆火;OpenAI 两款产品用户流失;亚马逊、Meta 裁员;英伟达年终奖、合作协议情况;阿里发布千问新模型;还有大厂春节发红包竞争,DeepSeek 布局新领域等消息。
AI for Science开年新突破:中科大实现多尺度结构逆向设计128倍加速,登上Nature子刊
中国科学技术大学联合多所院校,在多功能双连通多尺度结构逆向设计领域取得突破,成果发表于Nature Communications。研究解决核心瓶颈,提供新范式,在多方面展现优势与潜力。