「实时推理」共找到 2353 篇相关文章
社区供稿丨Jina-VLM：可在笔记本上跑的多语言视觉小模型
Jina AI发布2.4B参数量的视觉语言模型Jina - VLM，在多语言视觉问答任务达SOTA。它引入注意力池化，连接视觉与语言基座，处理问答等任务，对硬件要求低，多项测试表现优，还介绍架构、训练策略和上手方式。
第二代InfLLM开源，同尺寸快三倍！零参数，可训练稀疏注意力
新智元报道，清华、OpenBMB和哈工大提出零额外参数、训练高效的原生稀疏注意力框架InfLLM-V2，仅用5B长文本词元就能完成训练，相比稠密注意力机制有显著加速，性能接近传统稠密模型。
究竟会花落谁家？DeepSeek最新大模型瞄准了下一代国产AI芯片
近期，DeepSeek发布V3.1新模型，采用全新混合推理架构，在多任务表现上有提升。它采用UE8M0 FP8，或为国产推理芯片优化机制。国内多家厂商新一代AI芯片支持FP8，未来国产大模型或针对其专门优化。
3.9K Star！Inkeep 把 AI 原生 Markdown 编辑器做成了开源项目！
Inkeep 团队开源 OpenKnowledge，这是真正为 AI 设计的知识库工具，已获 3.9K Star。它有所见即所得、AI 协作等亮点，还基于 Git 同步，保障数据安全，值得 Markdown 工具使用者关注。
PaperDebugger：开源的学术版Cursor
PaperDebugger是AI驱动的学术写作助手，能调试和改进论文，提供智能建议。它用基于MCP的编排引擎，模拟学术流程，有聊天、插入、评论等功能，只读取项目，保障隐私。
ICLR 2026 Oral | 告别多步去噪！清华团队推出MVP，实现机器人动作单步极速生成
清华大学智能驾驶课题组 iDLab 与加州大学伯克利分校人工智能研究院 BAIR联合发表研究，提出 MVP 策略。它引入瞬时速度约束解决均值流学习问题，设计复合生成与选择机制，在多任务测试中表现出色。
最低 306KB，这款低延迟语音检测神器太绝了！
语音交互中，VAD至关重要。新开源的TEN VAD能精准识别语音起止，是替代WebRTC VAD和Silero VAD的优选。它低延迟、高准确率、极致轻量，已被Kaldi集成，还能跨平台部署，使用方便。
中科院甩出多模态“核弹”！类GPT-4o多模态模型开源！支持语言-视觉-语音任意组合交互！
中国科学院计算技术研究所（ICTNLP）开源类GPT - 4o多模态模型Stream - Omni，支持文本、视觉和语音任意组合交互，核心是高效模态对齐技术，少量多模态数据即可训练，有多种使用场景。
给Agent加上知识图谱，开源版Palantir
Semantica是LLM、向量库与Agent框架下的语义/上下文层，能把碎片化企业数据变成结构化、可查询的上下文图与知识图谱。介绍了其面向对象、功能、优势、使用方法、架构等内容。
Anthropic顶级Claude模型被逆向开源，这几个模块借鉴了DeepSeek
22岁开发者逆向开源Anthropic的Claude Mythos Preview模型架构，名为OpenMythos。其核心模块借鉴DeepSeek，采用带混合专家路由机制的循环Transformer，有独特设计和稳定机制，重新框定扩展性争论。