「大模型推理系统」共找到 9204 篇相关文章

开源动态8

当Sora 2意外停摆,这个国产视频生成创业团队,直接「开源」三连击

OpenAI叫停Sora 2项目,同期北京AI初创公司Sand.ai在GitHub连续三天开源核心技术栈,包括音视频同出大模型、分布式Attention组件、全局编译框架,还介绍了团队和产品,展现全栈实力。

机器之心
新闻资讯7

新研究揭穿Claude底裤,马斯克盖棺定论

最新研究发现Claude Sonnet 4.5对不同国家、种族、性别人的生命价值判断有严重偏见,马斯克锐评Claude「邪恶透顶」。多数模型也存在类似问题,而Grok 4 Fast相对平等,Anthropic因价值观问题遭质疑。

量子位
新闻资讯7

Windows 10 停服引发全球热议,国产OS迎来窗口期?专家:技术迭代是残酷的,也是必然过程

微软宣布 2025 年 10 月 14 日停掉 Windows 10 免费更新与技术支持。这引发全球热议,也让国产 OS 迎来发展思考。专家认为这会加速生态多样、重塑产业价值链,同时分析了国产系统机遇、挑战和发展路径。

InfoQ
算法论文8

LLM协作告别文本形式:直接“脑对脑”,Cache-to-Cache实现语义瞬时传输

现有多LLM系统依赖文本通信,效率低且易失真。论文提出Cache - to - Cache(C2C)范式,让LLMs通过KV - Cache“脑对脑”交流,实现高效精准语义传输,在多类任务中提升性能与效率。

深度学习自然语言处理
算法论文7

ACL 2025预定爆款!HyperGraphRAG横扫5大领域,检索效率提升7倍

文章介绍HyperGraphRAG模型,它由知识超图构建、超图检索策略、超图引导的生成机制三部分组成。构建含知识超图构建、超图检索、生成机制等步骤,能提升检索效率与答案质量,或成ACL 2025爆款。

PaperAgent
开源动态8

表格理解新纪元!上交大等联合开源,半结构化表格问答准确率提升40%!

数据密集型工作中半结构化表格处理难,传统工具和GPT - 4o表现不佳。上海交通大学等联合开源ST - Raptor,通过VLM、HO - Tree算法和LLM推理,解决复杂表格问答问题,支持多格式,适用于多场景。

开源星探
开源动态7

腾讯开源框架 Kuikly 再升级!率先适配 “液态玻璃”,原生体验更极致

腾讯开源框架Kuikly再升级,在苹果发布iOS 26系统背景下,新增“液态玻璃”适配。文章分析了“液态玻璃”给跨端框架带来的挑战,对比不同架构路线适配情况,还介绍了Kuikly的适配经验。

腾讯技术工程
算法论文8

OpenVision 2:大道至简的生成式预训练视觉编码器

多模态大模型浪潮中,视觉模块是关键。此前OpenVision训练管线复杂,成本高。研究者提出OpenVision 2,移除文本编码器与对比学习,引入随机丢弃视觉token技巧,性能佳且效率高,挑战了对比学习范式。

机器之心
新闻资讯8

英伟达通用机器人芯片来了:AI算力提升7.5倍,宇树、银河通用已搭载

本周一,英伟达发布新一代机器人专用芯片Jetson Thor,算力是上一代7.5倍,能效3.5倍,内存容量翻倍。适配新算法,支持多种模型,已受大量厂商重视,相关产品已发售或开放预订。

机器之心
推荐文章7

氛围编程行不通!CTO们集体炮轰AI编程:不是失业,而是失控

CTO们认为氛围编程是灾难,如代码上线后出现系统崩溃、用户权限漏洞等问题。Augment Code的Chris Kelly演讲指出,AI写代码有局限,软件工程师要做决策,还给出写让AI接手代码的建议。

InfoQ