大模型推理加速全链路：内存管理、编译优化、量化与并行策略

本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战，如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法，还介绍开源推理引擎赤兔在国产芯片的实践成果。

杀死UI！普通人也能做最酷炫的 5 种 AI 动态网页

文章介绍5种酷炫AI动态网页制作方法，无需专业UI能力。涵盖赛博飞驰、流光动效、星际探索、敦煌古风、都市现代风等风格，给出各案例制作流程、提示词，还提及借助Claude Code等工具合成网页。

Claude 吞噬整个AI编程栈？“Vibe Coding 公司的最大错觉是以为自己有护城河”

近日网友爆料 Anthropic 开发类似 Lovable 功能，要构建全栈式 Vibe 编码平台。此前 Claude Code 源码泄露，显示 Anthropic 补齐 AI 开发栈。AI 编程进入‘大收割时代’，模型厂商吞噬工具趋势显现，Lovable 等面临挑战。

Karpathy自称患上AI精神病！能力没有上限，一切都是Skill问题

Karpathy在播客中称自己患AI精神病，日常工作多依赖智能体。他认为智能体能力无上限，瓶颈在使用者技能。还探讨软件变革、自动化研究、模型分化等，对就业、开源等也给出看法。

完爆ChatGPT！谷歌这招太狠：连你的「阴阳怪气」都能神还原

谷歌发布Gemini 2.5 Flash原生音频模型，可保留语调进行实时语音翻译，实现拟人化交互。还具持续监听、风格迁移等功能，提升开发者所需的函数调用、指令遵循等能力，另有实验产品Disco。

一步步实战 CopilotKit（AG-UI协议）：快速集成前端UI与后端Agent的神器【上】

文章介绍AG - UI协议及CopilotKit，前者为前端UI与后端Agent集成标准，后者是其参考实现。结合实例展示CopilotKit能力，包括前后端State共享、调用前端“工具”等，还给出构建演示Demo的详细步骤。

2G 内存跑 Gemma 3n 完整版！全球首个 10B 内模型杀疯 LMArena：1300 分碾压记录

当地时间6月26日，谷歌正式发布Gemma 3n完整版，可在本地硬件运行。它是开源大模型，具多模态能力，最低2GB内存设备就能跑，E4B模型LMArena测评表现佳，还有MatFormer架构等多项创新。

苹果出手！改进GRPO，让dLLM也能高效强化学习

苹果研究团队针对扩散语言模型（dLLM）在编码任务中表现不明的问题，基于7B级代码生成MDM DiffuCoder展开研究，定制优化GRPO提出coupled - GRPO算法，填补开源dLLM训练和推理机制空白。

4月30日凌晨，Meta举行首届AI开发者大会LlamaCon，推出Meta AI聊天机器人应用程序与ChatGPT竞争，发布Llama API。Meta试图强化开源模型生态系统以限制OpenAI发展，扎克伯格与微软CEO还探讨了开源闭源模型生态等内容。

0.25秒识破未见攻击，这套检测方法没看过任何越狱样本 | EMNLP'26

大视觉语言模型带来隐蔽攻击面，现有检测器难平衡。中国人民大学与阿里巴巴集团联合提出Learning to Detect（LoD），不依赖攻击样本和手工规则，从模型内部激活学安全模式，实验效果好且代码开源。