「部署方案」共找到 1452 篇相关文章
最新W4A4KV4全量化框架，单卡A100大模型推理速度飙升
计算所王颖研究员团队等联合在ASPLOS 2025上发表并开源COMET框架，通过系统 - 算法协同优化，实现全4比特推理性能突破，在多方面有技术亮点，实测性能碾压现有方案且已开源。
13K star！这个项目太顶了，自动化 API，后台作业，工作流，UI开发，低代码一网打尽！
日常开发构建和管理内部工具费时费力，第三方方案费用高。开源项目Windmill是开发者福音，能将脚本自动转换成工作流程和UI，适用多场景，有自动UI生成等特色，安装使用简单。
完全开源的7B模型，性能比肩主流LLM，训练成本仅16万美元，复现DeepSeek的强化学习！
Moxin-7B由多机构团队联合开发，遵循“开源科学”原则，公开全流程细节。它训练成本仅16万美元，评测表现亮眼，在架构、数据策略、训练过程等方面有创新，为中小企业提供可控AI方案。
开源 AI 文档生成器！给代码库做个CT扫描，一键生成交互式Wiki文档！
介绍开源工具DeepWiki-Open，它由AsyncFuncAI开发，能将GitHub或GitLab仓库一键转为交互式Wiki，基于多种技术实现代码分析和自动化文档生成，解决开发者理解复杂代码库的痛点，还给出快速上手步骤和适用人群等。
一个跑智能体，一个专门找漏洞：Google发布Gemini 3.8双版本
9月2日，Google发布Gemini 3.8 Flash和Gemini 3.8 Flash Cyber。前者用于编程等，已稳定上线；后者专用于发现修复漏洞，仅向特定方开放。二者共享基础能力，采用不同安全限制和部署环境。
Claude Code之父版「职场MBTI」：AI洗牌后只剩5类人，你选哪种？
Claude Code之父Boris Cherny提出AI时代「职场MBTI」，含原型师、建造师等五类角色。他认为传统职能将被洗牌，未来是通才的黄金时代，还给出团队组队方案及个人自救建议。
AI 企业 Day 0 出海，如何少走技术弯路？
InfoQ与多家AI出海企业交流发现，很多企业放弃常见Agent平台和流行框架，选择自研全栈平台。GMI Cloud升级产品，构建完整基础设施图谱，解决全球算力部署、模型调用和Agent商业化落地问题。
分裂的丰盛：AI时代的财富会落到谁手里？
作者重读《国富论》，借亚当·斯密的思考探讨AI时代财富分配。指出AI带来‘分裂的丰盛’，分析了AI自动化的两面性，结合历史案例说明生产率与工资增长的关系，还从三层分析AI对财富的影响，并给白领提出四条建议。
小模型代替顶级闭源：微软用4B小助理，砍掉30% Token消耗
微软研究团队提出实用方案，用4B参数的微型模型Terminus - 4B替换昂贵顶配大模型接管终端执行任务，采用SFT和RL策略打造子智能体，经测试效果良好，节省Token消耗。
英伟达MIT出手！华人团队重磅开源，大模型推理内存暴降10倍
英伟达、MIT、浙大华人研究者联合推出TriAttention，核心是在pre - RoPE空间用Q/K三角集中度估计KV token重要性，保留关键部分。它使内存消耗降10倍，吞吐量提2.5倍，还提供vLLM集成和MLX实验性支持。