端到端调优」共找到 2307 篇相关文章

推荐文章8

他在 10 天内拼出 ChatGPT,如今影响 7 亿人:ChatGPT 负责人的第一次讲述

本文是对OpenAI产品负责人Nick Turley的访谈。他回顾了ChatGPT从黑客马拉松项目全球爆火的历程,介绍了GPT - 5特点,阐述产品愿景、发展迭代、团队建设等经验,还分享了OpenAI产品开发方法。

InfoQ
新闻资讯7

新榜单CompileBench:让AI能搞定22年前的老代码

近日,CompileBench 测试 19 个 AI 模型编译真实代码能力,最难任务是复活 2003 年代码并交叉编译 Windows 和 ARM64。不同模型表现不同,如 Claude Opus 4.1 成功完成 ARM64 静态编译,各模型有不同优缺点。

AI工程化
开源动态7

SGLang × RoleBasedGroup(RBG):打通大模型推理PD分离架构规模化落地的“最后一公里”

PD分离架构对大模型推理部署意义重大,SGLang支持该架构且性能佳。但从测试生产落地难,存在部署、资源、可靠性等问题。SGLang开源RBG项目,结合二者为PD分离架构生产化落地提供方案。

InfoQ
技术分析类文章7

Pingpong Schedule并不是万能钥匙

SGLang社区开发者反馈,SM90 FP8 Blockwise Scaling Grouped GEMM从H20迁移至H800后性能下降。文章分析是Pingpong调度策略所致,因算力提升,其使TensorCore未充分利用、TMA效率低,建议用Cooperative策略。

GiantPandaLLM
产品应用7

18岁女孩做养老机器人,上线2天卖爆了

18岁女孩Audrey Lo和团队推出养老机器人Sam,上线两天订单多网站崩溃。它能24小时监测老人安全、提供陪伴,还可辅助护理人员。Audrey Lo此前还有两次创业经历,这款产品戳中市场痛点。

量子位
产品应用7

Windsurf快被Devin搞垮了!bug 不断、官方“装死”,百万用户要“跑”了?

Windsurf近期出现性能降低等问题,社区抱怨不断,但官方却隐身不回应。此前公司经历变动,Devin集成Windsurf后问题频出,如级联错误、积分消耗等,部分用户开始转向其他产品,其未来发展存不确定性。

AI前线
新闻资讯8

a16z 发布百大【生成式AI】消费级应用排行榜第五版

a16z发布第五版百大生成式AI消费级应用榜单,揭示普通人使用AI习惯的演变,生态趋于稳定。谷歌多款产品上榜,Grok与Meta加入战局,中国本土赢家崛起,“凭感觉编程”催生真实用户,还公布“全明星”阵容。

宝玉AI
新闻资讯7

十载磨「芯」:云天励飞冲击港股AI推理芯片第一股

7月30日,云天励飞向港交所递交H股上市申请,迈向“A+H”新阶段。它是中国首家实现国产高算力AI推理芯片商业化的公司,坚持“全自研、国产化”,现进一步聚焦AI推理芯片,构建“1+N”业务架构。

芯师爷
算法论文7

英伟达放话:小模型才是Agent的未来!

英伟达论文指出,当前用大模型构建AI Agent是资源浪费,提出小模型才是Agentic AI未来,给出三点理由,还提供从大模型迁移小模型的六步流程,并分析三个开源项目,呼吁行业追求效能。

探索AGI
新闻资讯7

Anthropic刚刚宣布Claude Sonnet 4支持100万token上下文窗口

Anthropic官方公告,Claude Sonnet 4上下文窗口扩大100万tokens,是之前5倍。能一次读懂大代码库或多篇论文,可用于代码分析、文档处理等。超20万tokens价格翻倍,现仅对Tier 4用户测试。

AI工程化