「全4比特量化」共找到 1993 篇相关文章
最强人才接连被挖,创业大佬离开 OpenAI 后说了实话:7 周硬扛出 Codex,无统一路线、全靠小团队猛冲
近日,OpenAI 研究员 Jason Wei 即将加盟 Meta 新成立的超级智能实验室,另一位研究员 Hyung Won Chung 也将一同加入。此外,曾参与 Codex 开发的创业大佬 Calvin French - Owen 分享在 OpenAI 的经历,揭示其内部生态。
裁4000人换来的AI全白搞?Salesforce悄悄改架构:用 “老技术”故障少还省钱,网友怒喊:CEO零遣散费滚蛋
Salesforce曾大举部署AI并裁员,宣称Agentforce能降本。但如今高管称不过度依赖大模型时运行更好,已引入基础自动化技术。其应用遇瓶颈,故障频发、成本高,还面临AI“漂移”等问题。
全给黄仁勋玩明白了!15亿美元租自家GPU/教小弟用GPU换融资,英伟达又一世子被曝准备IPO
The Information消息,今年夏天英伟达将从Lambda租1万个GPU服务器,另达成8000个服务器租赁交易,总值15亿美元,用于内部研发。英伟达是Lambda供应商、投资者、客户,Lambda或2026上半年IPO。
一大早被广告刷屏的"首个设计 Agent",居然是这家国内公司做的。
LovartAI凌晨发布引关注,网页前端漂亮。猜测其由国内Liblib公司开发,有三方面证据。它是设计Agent工具,功能较全,但对‘首个’存疑,其价值待观察。
硅谷刷屏的ClawdBot,让Mac mini卖爆了!创始人爆料:一人开发、100% AI 写代码,全开源却留 0.00001% 给全网来 hack
个人 AI 助手 ClawdBot 席卷硅谷,网友评价高,项目已开源获 20.8k stars。它几乎 100% 用 AI 写代码,协作方式激进,创始人还留 0.00001% 作为“安全靶子”。其功能强大但有安全隐患,还带火了 Mac Mini。
Qwen开源版Banana来了!原生支持ControlNet
Qwen推出新图像编辑模型Qwen - Image - Edit - 2509,支持多图融合、增强单图一致性,原生支持ControlNet。还开源端到端全模态模型Qwen3 - omni,性能优异,功能丰富。
sglang 源码学习笔记(二)- backend & forward 过程
本文深入解析sglang forward核心实现全流程,介绍了forward传递过程、AttentionBackend数据结构,以flashinfer为例展开分析,还说明了cudaGraphRunner初始化、Capture、Replay过程,助读者理解代码。
一键检测你的电脑能跑哪些大模型,这项目6!
介绍工具`LLMFit`,它用Rust编写,能自动检测硬件配置,判断大模型能否流畅运行,还可推荐最优量化版本和运行模式。该项目在Github获5.9k+ star,有多种安装方式。
Google大神开源Agent Skills:专治AI偷懒
AI编程工具常偷懒致上线问题多,Google大神Addy Osmani开源Agent Skills,含19个覆盖全流程的技能、7条快捷指令和反借口机制,可通过一条命令使用,支持多种工具。
猛涨25k star!一键检测你的电脑能跑哪些大模型!
最近 Github 出现工具 `LLMFit`,用 Rust 编写,能自动检测硬件配置,判断大模型能否流畅运行,推荐最优量化版本和运行模式。有一键硬件检测等特性,安装使用方便,降低本地部署门槛。