「FP4量化」共找到 1676 篇相关文章
用SFT打出RL的效果?微软联合提出高效后训练算法
大模型后训练阶段,SFT 和 RL 各有优劣。微软等联合提出新工作,量化 SFT 和 RL 在数据层面的差距,提出 IDFT 和 Hinted Decoding 等高效后训练技术,实验显示新方法泛化超 SFT、效率超 RL。
Cursor 慌了:当 AI 不再需要代码编辑器
Anthropic新模型Opus 4.5编程能力强大,开发者无需逐行审查代码,可直接向智能体下达指令获取成品,这冲击了Cursor代码编辑器业务。虽Cursor收入增长,但面临焦虑,正努力自研模型、拓展企业客户。
黑客已死!Claude 两周挖出 Firefox 22 个漏洞
Anthropic与Mozilla合作,让Claude Opus 4.6对Firefox代码库做漏洞挖掘,两周发现22个漏洞,14个高危。Claude发现漏洞能力强,但利用漏洞能力弱。还研究用LLM做「补丁Agent」,为AI辅助安全研究建规范。
叫板英伟达RTX 5090!GPU初创公司做出13倍路径追踪性能的怪兽显卡
芯片初创公司Bolt Graphics首款GPU模组Zeus 4C,路径追踪性能达RTX 5090的13倍。但它不适合游戏场景,更擅长低功耗高精度图形渲染,不过测试、应用、价格目前都是未知数。
彭博社突发:OpenAI 的中国最强对手,将开源最新 SOTA 模型
据彭博社报道,中国AI独角兽智谱AI(Z.ai)周一将发布最大开源模型GLM - 4.5,这是旗舰模型重大更新版。此前OpenAI警告智谱扩张迅速。近期中国AI初创公司开源竞赛激烈。
Claude两周挖出火狐浏览器22个漏洞、14个高危!安全研究的游戏规则该变了?
近日,Anthropic与Mozilla合作,用Claude Opus 4.6测试火狐浏览器漏洞,两周内找出22个漏洞,14个高危。网友热议,有人赞其高效,也有人担忧攻击面变化。还测试了Claude利用漏洞能力,同时分享技术和流程实践。
刚刚,DeepSeek官宣更新了!突然「变冷」冲爆热搜
DeepSeek官宣网页版、APP更新,支持100k token上下文,但更新后性格变冷淡引争议。官方称是效率优先和边界意识所致。此外,传言V4将发布,编程实力或超Claude、ChatGPT等。
太魔幻了!刚刚OpenAI发布GPT Image 1.5:Nano Banana Pro 王座不保
OpenAI发布由GPT Image 1.5驱动的新版ChatGPT Images。新模型核心升级体现在精准修图、指令遵循能力强、生成速度提升4倍。还推出Images主页,API上线且价格降20%,适合企业。
马斯克的最快AI模型来了
xAI发布Grok 4 Fast,生成速度每秒75个token,比标准版快10倍。网友实测其解题、问答速度惊人,但也有准确性问题。它为求速度做了妥协,适合追求即时结果的用户。
SGLang 2025-8月性能优化技巧记录
本笔记记录2025年8月SGLang框架性能优化实践,涉及GPT - OSS、DeepSeek - V3等模型,采用allreduce_add_rmsnorm、量化、通信、内核融合等优化技术,在性能提升、减少延迟等方面效果显著。