「全自回归模型」共找到 8982 篇相关文章
vLLM PIECEWISE CUDA Graph 技术学习笔记
文章围绕vLLM PIECEWISE CUDA Graph技术展开,介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容,PIECEWISE技术让vLLM在prefill阶段性能提升。
刚刚,Meta挖走OpenAI清华校友宋飏,任超级智能实验室研究负责人
本周四消息,原OpenAI战略探索团队负责人宋飏加入Meta,任新成立的Meta超级智能实验室研究负责人。今年6月起Meta开启AI人才争夺,已挖来至少11位顶尖人员,宋飏加入为其AI部门添活力。
API协议全景图:从REST到MCP的选型指南
本文以开源项目 HiMarket 为背景,梳理从传统 Web 到现代 AI 场景下六种主流 API 协议,如 RESTful、GraphQL 等,介绍其核心定位、技术特点与适用场景,助开发者厘清相关概念。
谷歌AI新里程碑:一个能「做研究」的系统诞生了,用LLM+树搜索编写专家级软件
谷歌提出能帮科研人员编写「专家级」科研软件的AI系统,融合大语言模型和树搜索,可整合重组知识构建新思路。在多领域超人类表现,但局限于可量化任务。
奥特曼给ChatGPT空降高管,11亿美元收购独角兽创始人加入OpenAI…这剧情好熟悉啊
OpenAI将以11亿美元全股票收购Statsig,原高管加入负责ChatGPT等产品线。同时内部重大人事调整,重心转向应用程序,成立独立组织负责开发运营,还加强ToB业务拓展。
刚刚,Anthropic推出Claude Chrome插件,仅限1000人
Anthropic发布Claude for Chrome扩展,让Claude能在浏览器操作,仅向1000名Max计划用户开放预览。虽功能强大,但面临提示注入攻击风险。不过Anthropic有多层防护,降低了攻击成功率,并给出用户安全建议。
三个月、零基础手搓一块TPU,能推理能训练,还是开源的
加拿大西安大略大学工程师暑期打造开源 ML 推理、训练芯片 TinyTPU。他们非专业出身,从基础学起。还介绍了造 TPU 原因、硬件知识、构建方法,及推理、训练的实现。
OpenAI CEO亲口承认:AI投资泡沫来了,但这次可能比互联网泡沫更疯狂
OpenAI CEO Sam Altman称投资者对AI过度兴奋,AI处于泡沫中,还透露OpenAI将花数万亿美元建数据中心。数据显示AI投资疯狂,且相比互联网泡沫,此次AI泡沫垄断程度更高、投资规模更大等。
11.8k Star 爆火!Firecrawl开源王炸,秒级生成React应用!
知名网页抓取工具Firecrawl团队推出开源项目Open Lovable,几天内获11.8k Star。它是AI网页克隆工具,能秒级将网站克隆为React应用,功能丰富,适合多类人群,还介绍了上手步骤和应用场景。
xAI联合创始人出走:连马斯克都留不住顶级人才
伊戈尔·巴布什金这位效力过DeepMind和OpenAI的AI老将,助马斯克建成孟菲斯超算集群后离开xAI,创办风投公司“Babuschkin Ventures”,瞄准AI安全赛道,揭示AI行业顶尖人才的追求。