「GMC核心集剪枝方法」共找到 1649 篇相关文章
大模型低价趋势延续!智象未来姚霆:B端、C端界限模糊,API不够、逼出 “按结果付费”
InfoQ 采访智象未来联合创始人姚霆,探讨多模态大模型发展。他指出深度 Scaling up 收益放缓,广度 Scaling up 有惊喜;2025 年模型价格战倒逼厂商加速,低价趋势 2026 年将延续,商业模式转向“按结果付费”。
刚刚,英伟达CUDA迎来史上最大更新!
几个小时前,NVIDIA CUDA Toolkit 13.1 正式发布,英伟达称这是 20 年来最大更新。此次更新包括 NVIDIA CUDA Tile 发布、Runtime API exposure of green contexts 等,还涉及软件、多进程服务、开发者工具、数学库等多方面改进。
这个框架让大模型省下50%内存,合并专家不如直接删掉?
Cerebras Research提出REAP框架,通过专家剪枝和合并技术压缩SMoE模型,能让模型‘瘦身’并保持性能,可省50%内存,但社区测试有不同结果,且存在调度开销等问题。
AI 的本质不是算力,而是「上下文革命」
上交大刘鹏飞团队提出人工智能本质是“上下文革命”,在论文中把“上下文”提升为智能系统核心结构,提出“上下文工程”学科框架,通过实验揭示智能发展规律,为AI发展指明新方向。
AI被严重低估!AlphaGo缔造者罕见发声:2026年AI自主上岗8小时
AlphaGo作者Julian发声,指公众对AI认知落后,低估其进展。实验室里AI已能完成复杂任务且指数进化。研究显示AI能力逼近专家,2026年或可自主工作8小时,2027年或超人类。也有人质疑趋势可靠性。
被DeepSeek带火的OCR,最新8个开源模型盘点~
DeepSeek-OCR发布让OCR大热,PaperAgent梳理盘点8个热门开源OCR模型,如DeepSeek-OCR用‘上下文光学压缩’技术,Nanonets-OCR2-3B以零样本视觉链式思维为核心等。
17.6K Star跨平台逆向工程神器!免费替代IDA Pro,支持插件扩展!
在二进制文件分析或软件逆向工程中,专业工具如IDA Pro界面复杂、学习成本高。文章推荐开源跨平台逆向工程平台Cutter,它基于rizin核心引擎,功能完善,可降低使用门槛。
全新合成框架SOTA:强化学习当引擎,任务合成当燃料,蚂蚁港大联合出品
蚂蚁通用人工智能中心自然语言组联合香港大学自然语言组推出PromptCoT 2.0,押注任务合成。它让30B - A3B模型在数学代码推理任务达SOTA,全面升级效果、数据和方法,还将考虑多方向发展。
vLLM PIECEWISE CUDA Graph 技术学习笔记
文章围绕vLLM PIECEWISE CUDA Graph技术展开,介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容,PIECEWISE技术让vLLM在prefill阶段性能提升。
Agent+Code,打开AI开发新范式
当下企业级AI叙事逻辑转变,传统AI应用有瓶颈。京东云在JDD 2025大会提出“深度应用”理念,推出“Agent+Code”新范式,其包含JoyAgent 3.0和JoyCode 2.0,还通过开源引领行业创新。