入局AI Infra：程序员必须了解的AI系统设计与挑战知识

文章分享传统后台工程师技术栈和方法论如何迁移到AI系统，系统性拆解AI Infra的硬件、软件、训练和推理挑战，如硬件从CPU到GPU、软件依赖深度学习框架，还分析训练和推理面临的问题及解决办法。

中学生就能看懂：从零开始理解LLM内部原理【十三】｜GPT 架构如何工作 ？

本文是对GPT架构工作原理的解读。介绍了GPT与Transformer的关系，阐述其从输入文本到预测下一词概率的流水线，详述训练和推理流程，还提及GPT架构进化的混合专家（MoE）模型。

超越英伟达Describe Anything！中科院 & 字节联合提出「GAR」，为DeepSeek-OCR添砖加瓦

中科院与字节联合提出「GAR」，为构建自然图像的Dense Caption提供新思路。GAR具备精准描述、关系建模和组合推理能力，通过引入新组件，兼顾细粒度与全局上下文，在多测试集表现优异，且代码等已开源。

逆天！Mata用13个参数26字节让模型正确率从76%飙升至91%

Meta等机构研究人员发布TinyLoRA极致微调技术，配合强化学习，能在几乎不改变大模型原有结构下，用极少数参数激发其推理能力。该技术在数学推理上表现出色，还探索了参数共享策略和存储精度问题。

Claude Code 推出 /loop 无限循环，一台电脑即可化身无数小龙虾

Claude Code发布v2.1.71，推出`/loop`功能，可让Claude在后台循环执行任务。它能将Claude Code从问答工具变为自主运转的Agent，配合CLAUDE.md和Git hook可构建自主Agent系统，还能同时跑多个实例。

全球首次，Transformer「混血」速度狂飙65倍！英伟达已下注

康奈尔、CMU等机构研究者提出「混合体」Eso - LM，融合自回归和离散扩散模型范式。它引入KV缓存机制，推理速度相比标准MDM提升65倍，在速度与质量平衡上超越BD3 - LM，引发AI领域关注，英伟达或押注此方向。

刚刚，GPT-5 横扫编程奥林匹克，5 小时打穿 12 题！人类最强队伍只能做出11道

2025年国际大学编程竞赛世界总决赛（ICPC）上，GPT - 5和OpenAI实验推理模型5小时解完12道题，超越人类最强队伍。Google DeepMind的Gemini 2.5 Deep Think获10/12。此成绩展示推理系统惊人进步。

让AI自我进化，斯坦福新课免费教

斯坦福开设新课CS329A《自我进化AI智能体》，被奉为Agent学习新晋资源宝库。课程由实战派教授授课，介绍扩大模型规模、养成能听懂人话的AI、提升AI能力等内容，还探讨AI自我改进及智能体工作流等。

2025年4月17日消息，OpenAI 连发o3和o4 mini，o3为强大推理模型，o4-mini专为高效推理优化。它们能调用ChatGPT工具，可基于图像思考。OpenAI还开源本地代码智能体Codex CLI，兼容所有模型。

英伟达开源深度研究引擎：企业级数据不出门，研究自动做

NVIDIA推出AI-Q Blueprint，将深度研究流水线打包成Agent Skill，解决企业级数据处理难题。它能让企业数据不出门，代理框架可派任务并获报告，还支持多种认证模式，代码库可本地部署，专为深度研究打磨。