「观测的暴露度」共找到 10488 篇相关文章
谈一谈TP推理场景下MoE Group GEMM的优化思路
作者在使用H20测试SGLang CUTLASS MoE时,发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案,启动多个不同配置Kernel,依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。
彻底说清 Human-in-the-Loop【下】:分布式环境下的挑战与应对
本文继续探讨如何将HITL Agent扩展到分布式环境,介绍分布式环境下的挑战与应对、实现分布式的HITL Agent、实现客户端的故障恢复及服务端的故障恢复建议,还给出演示代码参考。
Claude Code 5亿美元背后的AI工程革命
文章介绍了Claude Code的诞生故事、技术选型、开发流程等。它从听歌小工具变为年入5亿美元产品,90%代码自写,开发流程快,还重新设计终端交互。Anthropic团队各环节AI化,也有特殊条件,有些经验可借鉴。
Andrej Karpathy:一场里氏 9 级的大地震正在重塑整个编程行业
文章围绕AI在编程领域的应用展开,作者与大师交流AI Coding方式,后提及Andrej Karpathy观点,指出编程行业正被重构,程序员需掌握新抽象层,应对不稳定智能系统。
太强了!这个 NotebookLM Skill,真的把 NotebookLM 搬进了命令行!
Google的NotebookLM凭借强大模型能力成AI圈“现象级”产品,如今开发者将其搬到命令行,开源神器notebooklm - py诞生,具备AI Agent工具、研究自动化等功能,有多种使用方式。
OpenAI 推出 GPT-5 驱动的安全卫士Aardvark:Codex 绝佳搭档
OpenAI推出由GPT - 5驱动的自主安全研究智能体Aardvark,用于软件安全保障。它能持续分析代码仓库,识别并修复漏洞,目前在内部及合作伙伴代码库效果良好,正处私有测试阶段。
AI 顶尖科学家、前 OpenAI 联创 Ilya Sutskever 的 18 个最新思考
这是前OpenAI首席科学家Ilya Sutskever离开OpenAI后的深度访谈。他分享了对LLM研究、实现ASI、研究品味等思考,指出Scaling时代结束,强调‘情感’价值函数等,还回应了创业公司SSI规划。
英伟达服务器涨价超15%!百亿AI基建的「内存难题」
据彭博社报道,英伟达通知客户,搭载其AI芯片的服务器价格将涨超15%,2027年初生效。涨价主因是内存需求大增、供应紧张价格上涨,这让数据中心前期投入增加,小公司更难入局。
一颗 1.8 纳米芯片,成了英特尔「最后的救赎」
2025年10月9日,英特尔公布基于18A工艺的酷睿Ultra系列第三代处理器Panther Lake。它集成多部件,性能提升大,还将用于机器人等。此前英特尔危机四伏,此产品发布意义重大,成败影响深远。
5w颗星!前Google工程师为Agent打造的设计系统
Anthropic的frontend - design是Claude首个广泛使用设计技能,Impeccable由此起步并扩充功能。它有一次设置流程、23条命令、59条确定性检测规则等,还给出反模式,介绍多种安装方式及使用方法。