「内存密集型内核」共找到 304 篇相关文章
老黄200亿「钞能力」回应谷歌：联手Groq，补上推理短板
谷歌TPU威胁刚至，英伟达砸200亿美元联手Groq布局AI新时代。知名投资人指出Groq LPU推理速度远超GPU、TPU等，但内存容量小。英伟达借此补推理短板，入局竞争激烈的推理市场。
与DeepSeek-OCR不谋而合，NeurIPS论文提出让LLM像人一样读长文本
NeurIPS 2025 论文提出 VIST 框架，为大语言模型长文本推理提供视觉方案，与 DeepSeek - OCR 理念不谋而合。它模仿人类阅读，有快 - 慢路径协作，在多任务表现优，还让模型‘用眼看文字’，优势明显。
3.6K Star 开箱即用！开源Agentic浏览器，Perplexity Comet最强平替！
传统浏览器缺乏AI自动化能力，新兴的Perplexity Comet又有云端依赖和费用高的问题。开源的Agentic浏览器BrowserOS可作其平替，有AI聊天扩展等组件，功能强大且跨平台，能带来安全智能的浏览体验。
极客说｜Unsloth 的全微调之路：从 Adapter 到 Full Fine-tuning
大语言模型参数多，微调难。Unsloth 原靠支持 Adapter 微调出名，现支持全参数微调，单卡就能搞定大规模模型训练。文章介绍其进化历程、关键技术、工程部署、使用优势及最佳实践。
少 61% Token、多10倍成功率，这个终端 AI 编程代理火了！
现在多数AI编程工具问题多，而在Github上火爆的`oh-my-pi`是运行在终端的AI编程代理，有哈希锚定编辑等实用功能，支持多模型，经基准测试效果好，还能解决实际开发痛点。
开源3天斩获 2K Star，这个开源 Skills 技能把 AI 的“记忆缺陷”补上了！
最近含金量极高的 Skills 指南 planning-with-files 开源上线 3 天，GitHub Star 达 2k。它复刻 Manus AI 核心模式，将 Markdown 作为 AI Agent 工作内存，采用三文件模式解决 AI 记忆问题。
FlashInfer集成TensorRT-LLM cubin kernel技术分析
文章以MoE模块为例，分析FlashInfer集成TensorRT-LLM的技术。探讨如何不依赖源码用其优化内核、动态加载管理CUBIN文件，介绍集成架构、源码集成技术、CUBIN动态加载系统等内容。
新手必看！强化学习入门指南 | 从RLHF、PPO、GRPO到RLVR，最后到训练推理模型
Unsloth团队发布强化学习教程，从吃豆人谈起，介绍RLHF、PPO、GRPO等概念，分享用GRPO训练推理模型技巧。涵盖强化学习基础知识，还给出Unsloth使用GRPO训练模型方法及奖励函数示例。
Meta 重磅提出「神经计算机」：模型即电脑
Meta AI和KAUST提出「神经计算机」概念，目标是让神经网络承担计算、内存、输入输出。论文给出完整框架并做原型验证，虽当前原型距目标差距大，但提出问题和定义框架意义重大。
安谋科技发布“周易”X3，一场“中庸”的突围 | 甲子光年
11月13日安谋科技发布“周易”X3 NPU IP，专为端侧AI打造。当前端侧AI市场不确定大，芯片设计难平衡专用与通用。“周易”X3采用DSP+DSA融合架构，转向混合浮点，提升带宽，搭配开放软件平台，在多方面找到平衡。