「通用混合场景」共找到 2735 篇相关文章
AI工具的真相与幻象:从客服看AI应用的理性边界
文章以某科技公司AI产品部门负责人张文的经历为例,讲述AI客服系统失败、AI编程助手成功的情况,指出AI应用存在期望与场景不匹配问题,还探讨了AI落地转变及组织搭建难题与解决办法。
ICML 2025 | 长视频理解新SOTA!蚂蚁&人大开源ViLAMP-7B,单卡可处理3小时视频
在视觉语言模型取得突破的当下,长视频理解挑战凸显。蚂蚁和人大团队提出视觉语言大模型ViLAMP,采用‘混合精度’策略,在多基准测试中超越现有方案,单卡可处理3小时视频,为实际应用带来新可能。
3B激活参数!商汤绝影Sage登顶PinchBench,端侧第一
商汤绝影Sage端侧大模型在PinchBench评测中,以94%任务完成率超越Claude、GPT - 5.4等主流大模型。它激活参数仅3B,算力需求低,还具备多项实用场景能力,靠SCOUT和ERL两项自研技术提升性能。
Meta没做的,英伟达做了!全新架构吞吐量狂飙6倍,20万亿Token训练
英伟达发布全新架构9B模型NVIDIA Nemotron Nano 2,以Mamba - Transformer混合架构实现推理吞吐量最高提升6倍,对标Qwen3 - 8B并在多任务中表现持平或更优,还开源模型及大部分预训练数据。
3B小模型吊打72B巨头!轻量级文档解析OCR,性能超Gemini,高效且精准!
Yuliang - Liu团队在GitHub开源轻量级文档解析模型MonkeyOCR,以SRR三元组范式实现高效精准解析,3B参数模型在英文文档解析上超Gemini 2.5 Pro和Qwen2.5 - VL - 72B,还介绍了安装部署、适用场景等。
AI 推理精细化流量治理实战:RocketMQ LiteTopic 的“千人千面”流控方案
随着大模型推理服务成主流,传统消息队列限流机制在AI推理场景面临挑战。Apache RocketMQ 5.x推出LiteTopic,其精细化流量治理方案能实现‘千人千面’,解决队列头部阻塞和并发效率受损问题,还与阿里云百炼网关合作。
刚得诺奖的成果被做成芯片了
莫纳什大学科学家用刚获诺奖认可的MOF制造超迷你流体芯片。此芯片不同于传统芯片,能记住电压变化形成类似大脑神经元的短期记忆,或成新一代计算机范例。此前MOF被认为‘无用’,如今证明或只是未找到适用场景。
Andrej Karpathy 盛赞!斯坦福团队新作,让Llama-1B 实现毫秒级推理
斯坦福Hazy Research团队将开源模型Llama - 3.2 - 1B前向推理整合为“Megakernel”,把推理延迟大幅降低,显存带宽利用率显著提升。团队指出当前主流LLM推理系统在小batch、极低延迟场景下低效,提出Megakernel以重构执行方式。
必看!Sebastian Raschka新博客盘点了所有主要注意力机制
著名AI技术作家Sebastian Raschka发布博客《现代LLM中注意力变体的可视化指南》,回顾近年开发并用于开放权重架构的注意力变体,包括多头、分组查询、多头潜在等注意力机制,还分析各机制特点、应用场景及优劣势。
聊聊腾讯 AI 的「松弛感」
文章通过播客内容探讨腾讯AI现状、大厂进击及2025年AI行业趋势。指出腾讯AI存在感弱与策略有关,其以连接器战略拓展;今年场景和用户体验优先级提高,大厂有内部提效等隐形壁垒。