「量化技术」共找到 2962 篇相关文章
SGLang 2025-8月性能优化技巧记录
本笔记记录2025年8月SGLang框架性能优化实践,涉及GPT - OSS、DeepSeek - V3等模型,采用allreduce_add_rmsnorm、量化、通信、内核融合等优化技术,在性能提升、减少延迟等方面效果显著。
Unsloth让大模型跑在手机上!
Unsloth放出教程,可将其微调模型部署到Pixel 8和iPhone 15 Pro。用ExecuTorch技术优化,Qwen2 - 0.5B在旗舰机上表现流畅。教程介绍量化感知训练控制精度损失,还给出iOS和Android部署步骤及注意事项。
混元3D世界模型1.0 lite版本发布,消费级显卡就能跑
腾讯混元3D世界生成模型HunyuanWorld 1.0发布即开源,可在消费级显卡运行,还能兼容传统CG管线。它分层实现3D生成,通过量化等技术降低显存开销,与同类模型相比优势明显。
用AI重新审视人类发明史:我们的技术本该比现在更先进吗?
美国研究员 Brian Potter 用 AI 分析 1800 年到 1970 年代 190 项重大发明,判断最早何时能造。结果显示多数发明没迟到太久,1900 年后发明间隔缩短,75%约束是技术性的。
追忆左耳朵耗子
本文追忆技术人左耳朵耗子,讲述其创业故事,包括创业契机、方向选择等,还分享技术见解,如选技术语言、积累技术等,探讨成长问题,如996、大小公司权衡等,最后推荐书籍并谈对年龄危机看法。
MCP技术浪潮中的Agent应用开发新范式
当下,MCP迅速发展重塑AI开发协作生态。太极平台借MCP汇聚多方能力,释放大模型潜能。文章介绍MCP技术、执行细节,探讨其与Agent、Function Calling关系,分析技术生态,还思考了MCP发展变化与局限。
网站GEO技术端优化指南:案例+工具+免费检查清单【转推】
文章指出当前处于传统搜索到AI搜索转型期,Google仍是主流。介绍Google和ChatGPT流程差异,给出抓取、索引、曝光优化建议,还列了该做与不该做之事,并有免费检查清单。
Claude Code完整技术栈都被扒出来了,Multi-Agent架构~
analysis_claude_code项目对Claude Code v1.0.33逆向工程分析,含混淆代码技术分析等。发现实时Steering机制、多Agent架构等,为AI agent系统设计实现提供技术参考,还介绍系统架构创新点。
万卡竞赛背后:容器正在成为AI时代的调度大脑
今年 Agent 与 AIGC 应用大爆发,Gartner 预计 2027 年超 75%的 AI/ML 工作负载将用容器技术部署。但现有容器技术栈不能直接用于 AI 业务,需解决两大技术挑战。阿里云 ACK 和 ACS 协同演进,应对挑战并不断突破,还积极投入开源。
专访中科第五纪黄岩:在具身智能的狂热中,做一位技术实干家
机器之心专访中科第五纪黄岩,他在具身智能狂热中是技术实干家。其有学术和工业界双重身份,技术覆盖多领域。团队解决行业数据利用瓶颈,推出超少样本大模型等成果,在商业落地表现出色。