「推理框架开发」共找到 4650 篇相关文章
AI生成苹果Metal内核，PyTorch推理速度提升87%
Gimlet Labs研究显示，AI能自动生成苹果芯片Metal内核，使PyTorch推理速度提升87%，在215个PyTorch模块上平均加速1.87倍。多个模型组合生成最优内核概率更高，不过研究对比方式遭质疑。
Qwen3-Next：迈向更极致的训练推理性价比
文章发布Qwen3-Next架构及Qwen3-Next-80B-A3B系列模型，通过混合注意力等改进提升训练推理效率。介绍模型结构、性能优势，还说明使用方法，包括在多平台部署及处理超长上下文，展望持续优化架构。
Kotlin Multiplatform 评估：跨平台开发中的优势与权衡
文章评估了 Kotlin Multiplatform（KMP）在跨平台开发中的优劣势。KMP 可共享代码，编译成原生代码获出色性能，保留原生 UI 选项。虽生态小、有学习曲线等问题，但 Netflix 等大公司已用，未来潜力大。
解决扩散模型过拟合的创新框架T-LoRA
预训练大型文本到图像扩散模型定制化时，样本有限易致过拟合。AIRI和HSE大学团队提出T - LoRA框架，动态调整训练能力、用正交初始化，实验显示其在单图像和多图像任务表现优，用户更偏好其生成图像。
谷歌新研究：大模型“吵架”有利于提升推理质量
谷歌新研究发现高级推理模型自发进化出'思想社会'，研究人员用LLM - as - judge方法识别出多个虚拟人格。还找到控制现象的'开关'，实验表明教AI'吵架'更有效，其'社交技能'通用，给开发者带来新启示。
一个For循环就是全部：BU开源了它的Agent框架
Browser Use团队开源bu - agent - sdk，设计理念简单，Agent就是一个for循环。它减少抽象、最大化模型自由度，解决了传统框架行动空间不完整等问题，支持多模型，开发者可自由选模型。
Sam Altman邮件证实，OpenAI将开发硬件语音AI Agent
今天凌晨，OpenAI的Sam Altman回应删除与Jony Ive信息一事，公布与iyO交涉邮件，透露收购io是为开发硬件语音AI Agent。iyO曾邀OpenAI投资、合作，演示失败后被弃，双方因名字打官司。
记录下SGLang 开发，编译和Profile的几个小技巧
作者记录在SGLang开源一年学到的开发和Profile技巧。包括解决perfetto可视化PyTorch Profiler结果时kernel丢失问题、PR切换分支方法，还介绍让SGLang无视版本运行以定位bug的方法。
Claude Code用不了？我给你开发了一个GLM Code
Claude Code虽好用，但存在订阅难、易封号、配置麻烦等问题。作者开发了GLM Code，一行命令就能用，安装简单、价格便宜、无封号风险，能力达Claude 90%，还给出使用步骤、适用人群等信息。
一下午一句话 Codex 帮我开发了一个完整的游戏！
作者用 Codex 一下午开发出完整游戏《夜巡录：荒庙篇》。Codex 能力惊人，能自建角色流水线、找素材、拼素材图，还结合多个工具打磨细节。项目已开源，作者考虑将流程封装成 Skill 开源。