「资源分配」共找到 493 篇相关文章
jiSGLang集成ktransformers：2TB内存运行Kimi K2 Thinking模型
对于内存多但GPU资源有限的用户，SGLang集成ktransformers的CPU内核，支持直接运行Kimi K2 Thinking模型。它无需等量化，还能微调，虽性能与GPU方案有差距，但给用户新选择。
AI・未来产业高成长企业投融资路演在首钢园举办
9月23日，‘AI・未来产业高成长企业投融资路演活动’在首钢园举办，由多方联合承办。活动汇聚赛事资源搭建对接平台，展示八大前沿科技项目，还将构建长效机制完善服务体系，推动科技与资本融合。
以「图」破局，HyperOffload定义超节点存储管理新范式
随着生成式AI进入万亿参数时代，大语言模型面临“显存墙”挑战。上海交大与华为MindSpore团队发布技术报告《HyperOffload》，其核心技术集成于MindSpore 2.8，能提升超节点异构资源协同效率，已在多项目落地。
AI翻译的「最后一公里」
文章指出文化差异成AI翻译难题，通用大模型数据不平衡，存在“算法霸权”。如处理低资源语言，AI易产生幻觉，还因无肉身难理解基于生理体验的隐喻，人机协作才是翻译未来。
DeepSeek-V4蓄势待发！梁文锋署名论文或开启第二个DeepSeek时刻
据报道，DeepSeek将于2月发布新一代旗舰模型DeepSeek V4，其编程能力或超Claude和GPT系列。最新论文提出Engram条件记忆机制，分离死记硬背与逻辑推理，揭示新稀疏性分配定律。
斩获5.4K star！发现一款轻量快速开源利器，支持插件和主题，非常6！
开源君介绍轻量级文本编辑器`Lite XL`，它用 Lua 编写，基于「lite」优化，安装包仅几 MB，能在多系统流畅运行。其性能出色，还支持插件和主题定制，适合资源有限设备。
我的Agent系统设计思路
作者介绍内容生产系统newtype OS，以写Newsletter为例展示其运作，包括主Agent Chief的工作流程，如获取文档、制定大纲、分配任务等，还阐述使用AI工具的思路，后续将添加自我总结模块。
Claude 这条路在中国企业这里彻底断掉了
9月5日，Anthropic宣布停止向中国资本控股企业提供Claude服务，此政策还涉及有中国资本背景的境外公司。AI已被视为战略资源，这体现了地缘政治对AI的影响，也带来新的商业风险。
在一台1970年代的PDP-11上训练Transformer需要多久？答案是5.5分钟
近日，开发者复现1970年代技术环境，用PDP - 11汇编语言实现Transformer并训练成功，项目叫ATTN - 11。在低资源下实现功能闭环引热议，大家思考Transformer到底需要什么。
简单了解下CUDA Green Context
文章基于Flashinfer实现介绍CUDA Green Context，它在CUDA 12.0+引入，能实现资源隔离、降低多线程性能损失、提高GPU使用率。还给出使用方法及代码示例，不过测试性能未达预期，需关注后续发展。