「国产开源LLM」共找到 4120 篇相关文章
仅保留35% Token，性能反超原模型！快手可灵等用视觉信息引导音频压缩，推理时间直降42%
Omni - LLM计算浪费严重，快手可灵等团队提出OmniSIFT框架。它利用音视频非对称依赖关系，通过时空联合剪枝压缩视频、视觉引导筛选音频Token，大幅减少Token数量，提升性能和推理效率。
首个自主数据科学的智能体
DeepAnalyze是业界首个能自主完成数据科学任务的智能体大语言模型，可自动执行数据准备、分析等任务，支持多种数据源，且模型、代码等全部开源，还给出了使用和开发方法。
1899个MCP服务安全研究：7.2%存在漏洞，5.5%暗藏「工具投毒」
研究人员对1899个开源MCP服务器扫描，发现7.2%项目有漏洞、5.5%遭工具投毒。MCP虽成事实标准且发展好，但代码质量堪忧，传统安全工具难检测其风险，为生态敲响警钟。
《动手写AI Agent》会话与记忆：记住上次聊到哪了
文章围绕《动手写AI Agent》的会话与记忆展开，指出LLM无状态、无会话持久化会让对话记录丢失。介绍了解决方案，如把对话存到磁盘及构建长期记忆，阐述设计决策并提到文件系统存储方案。
告别「解码器饥饿」！中国科学院NeurIPS推SpaceServe，高并发克星
中国科学院计算技术研究所入选NeurIPS 2025的论文提出SpaceServe架构，将LLM推理P/D分离扩展至多模态场景，通过EPD三阶解耦与「空分复用」，解决MLLM推理行头阻塞难题，在Qwen2 - VL系列模型实测中表现出色。
构建企业级 AI 应用：为什么我们需要 AI 中间件？
9月26日云栖大会，阿里云资深技术专家林清山发布阿里云AI中间件，核心技术全面开源。文章指出2025年是Agentic AI爆发元年，分析AI原生应用架构变革，介绍阿里云AI中间件构成及优势，助力企业级AI应用落地。
图解GPT-OSS：架构、消息格式与推理机制等
OpenAI发布首个开源大模型GPT-OSS，虽性能无惊喜，但设计思路有意思。其架构是经典延续，消息格式有巧思，支持三档推理模式，分词器有小进步，这些设计在实际应用和理论上有一定价值。
提速79%！上交大新方法优化企业级AI流程调度 | IEEE ICDCS’ 25
上海交通大学朱怡飞教授团队联合江行智能提出调度框架LLMSched，解决复合LLM应用任务运行时长和结构不确定问题。该框架重构DAG模型，用贝叶斯网络和熵减机制优化调度，实验显示最多降79%平均任务完成时间。
Fable 5 订阅权限又续了 5 天！与其被吊着，我找了个账单只有 1/3 的替代方案
Anthropic将Fable 5订阅权限延长至7月12日，但使用不稳定且价格贵。作者介绍OpenSquilla 0.5.0 Preview，其多模型集成协作方案用国产模型组队，成本低且分数可与Fable 5打平，不过也有适用边界。
5.1K Star！Codebuff 把整个 AI 编程团队装进你的终端！
Codebuff是开源AI编程助手，获超5.1k stars。其多智能体架构让不同智能体分工协作，理解代码上下文更好、编辑更准。官方测试中完成率61%，超Claude Code。它免费且上手简单，还能创建自定义智能体。