「国产开源LLM」共找到 4153 篇相关文章
华为中科大联创大模型低比特量化算法，1‰数据实现昇腾无损压缩7倍
华为诺亚方舟实验室联合中科大提出CBQ后训练量化方案，仅用0.1%训练数据实现大模型7倍压缩，保留99%精度。该成果登ICLR 2025 Spotlight，已加入昇腾ModelSlim工具包。
如何管理和调度Dify工作流？
文章介绍Dify这一开源大模型应用开发平台，指出其工作流存在无定时调度和监控报警、执行记录过多致性能差等痛点。给出Dify Schedule和XXL - JOB两种集成Dify工作流方案，并分析各自优缺点。
英伟达再破世界纪录，每秒1000 token！刚刚，全球最快Llama 4诞生
英伟达用Blackwell创下AI推理新纪录，单节点8颗GPU实现Llama 4 Maverick模型每秒单用户生成1000个token。这得益于技术组合拳，如用TensorRT - LLM优化、应用FP8格式等，满足了低延迟需求。
博士宿舍激情脑暴，革新了Scaling Law？Qwen和浙大联手推出新定律，直接干掉95.5%推理内存！
近日，阿里与浙大合作提出并行计算缩放定律 ParScale，可在不增参数下提升大模型能力，推理效率更高。它通过引入并行流实现，在数学、编程等任务表现佳，适合边缘设备，代码已开源。
ACL2025 | 抓出0.1%的捣乱分子压缩方法OTT：近乎无损 超越KIVI，内存减6.4倍 吞吐量提2.3倍
LLM生成文本时KV Cache内存占用高，限制模型批量处理能力。论文提出OTT方法，动态追踪异常令牌单独高精度保存，其余压缩。实验显示，它准确性高、效率好，不过在极短文本等场景有局限。
AI不靠“闭门造神”，海内外一线专家共探智能新纪元，GOSIM AI Paris 2025圆满收官！
5月7日，GOSIM AI Paris 2025在法国巴黎迎来第二日议程。全球专家围绕AI技术多方面探讨，涉及模型、基础设施等主题。还分享大模型趋势，宣布新型许可证，各分论坛展示多元成果，大会圆满收官，杭州场9月待启。
给Kali 加个MCP,直接用cursor做渗透测试
文章围绕用MCP调用Kali进行渗透测试展开，介绍国外大神实现此方法并开源。阐述系统原理、Cursor配置，通过实际测试展示效果，指出MCP让渗透测试调用更简洁，是较大进步，还给出了代码链接。
DeepSeek Harness规模化踩坑实录：耗时、成本、失败到底该怎么查
Agent 进入日常研发流程后，使用方关注耗时、Token 消耗和失败回溯。DeepSeek Harness（DSH）是开源 Agent 框架，腾讯云 Agent 可观测提供 DSH 采集插件，构成全景可观测方案，还介绍接入实践与其他能力。
600万奖池尘埃落定，有人靠DeepSeek网页版拿下冠军
TAAC × KDD Cup 2026大赛落幕，600万奖池揭晓归属。大赛吸引52国13913名选手，竞争激烈。冠军团队分别用DeepSeek网页版等工具，在赛题“统一建模”难题上各展方案，其成果或助广告外的LLM研究。
刚刚，Claude水印一夜变废纸！
今早GitHub上一个去水印神器代码库爆火，狂揽11000颗星。它采用MIT开源协议，能抹除Claude等水印及相关文件鉴权数据。此前Anthropic高调展示水印技术，如今防线被打破，引发开发者对大公司傲慢的反击。