「长上下文大语言模型」共找到 8329 篇相关文章
vLLM PIECEWISE CUDA Graph 技术学习笔记
文章围绕vLLM PIECEWISE CUDA Graph技术展开，介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容，PIECEWISE技术让vLLM在prefill阶段性能提升。
刚刚，Meta挖走OpenAI清华校友宋飏，任超级智能实验室研究负责人
本周四消息，原OpenAI战略探索团队负责人宋飏加入Meta，任新成立的Meta超级智能实验室研究负责人。今年6月起Meta开启AI人才争夺，已挖来至少11位顶尖人员，宋飏加入为其AI部门添活力。
API协议全景图：从REST到MCP的选型指南
本文以开源项目 HiMarket 为背景，梳理从传统 Web 到现代 AI 场景下六种主流 API 协议，如 RESTful、GraphQL 等，介绍其核心定位、技术特点与适用场景，助开发者厘清相关概念。
重构开发体验：CodeFuse 智能代码助手的设计与实践
蚂蚁集团技术专家牛俊龙在 QCon 大会分享 CodeFuse 智能代码助手架构设计与实践，介绍本地核心服务设计策略，结合案例优化其 AI 能力，还分享落地经验、教训与未来发展路径。
Karpathy氛围编程最新指南！三层AI编程结构：顺境Cursor，逆境Claude，绝境GPT-5 Pro
大神Karpathy发布全新Vibe Coding指南，总结出AI编程三层结构：Cursor负责自动补全与小修改，Claude Code/Codex实现大功能块，GPT - 5 Pro解决难题。该指南是对Vibe Coding概念的升级。
三个月、零基础手搓一块TPU，能推理能训练，还是开源的
加拿大西安大略大学工程师暑期打造开源 ML 推理、训练芯片 TinyTPU。他们非专业出身，从基础学起。还介绍了造 TPU 原因、硬件知识、构建方法，及推理、训练的实现。
11.8k Star 爆火！Firecrawl开源王炸，秒级生成React应用！
知名网页抓取工具Firecrawl团队推出开源项目Open Lovable，几天内获11.8k Star。它是AI网页克隆工具，能秒级将网站克隆为React应用，功能丰富，适合多类人群，还介绍了上手步骤和应用场景。
谷歌提出破局Self-Consistency计算瓶颈！LLM推理效率革命，推理加速不牺牲精度
Google Research等团队提出CISC，通过给推理路径赋予置信度权重，少量样本即可超越传统自洽性效果，平均减少40%计算成本，还提出WQD指标揭示模型自评估能力本质。
多模态卷王阶跃星辰Step 3登场，推理效率可达DeepSeek-R1 300%
新一代多模态推理基模Step 3登场，它采用原创MFA架构，具“多开好省”亮点，推理效率高、性价比优。7月31日将开源，能适配各芯片，还发起“模芯生态创新联盟”推动应用落地。
AI 编码史诗级翻车现场！刚刚，Replit 一键删光客户整个生产数据库，官方连夜补锅
昨夜，SaaStr.AI 创始人 Jason 痛斥 Replit 删除公司整个生产数据库，Replit 先称无法回滚后被证实可回滚。Replit 创始人回应愿赔偿，强调完善备份可恢复。此事引发网友热议，对 AI 编码应用看法不一。