「Attention性能瓶颈」共找到 2429 篇相关文章
原力灵机发布Realtime-VLA V2：从遥操作到真实部署，VLA提速的系统解法
原力灵机发布《Realtime - VLA V2》技术报告，在VLA控制下让机器人快速运动。实现数倍于遥操作采集训练数据的速度执行VLA，解决了遥操作数据采集、时序延迟等问题，还通过“油门式采集”提升速度，但离人类性能仍有差距。
AI 时代到底该怎么管一个工程团队
Fiona Fung在Anthropic大会分享AI时代管理工程团队经验，指出软件工程瓶颈转移，需重构流程，介绍了少做和多做的事、技术辩论方式、代码评审分工等内容，还提及组织形态、指标及未解决的问题。
MV导演诞生！上海巨人网络用让AI听懂音乐并掌镜拍摄MV
上海巨人网络AI实验室提出YingVideo - MV框架，结合音乐语义分析、镜头规划与视频生成模型，解决传统音频驱动视频生成难题。它分两步生成视频，以MV导演模块统筹，还解决长视频连贯性等问题，性能优于同类模型。
小红书提出社交大模型RedOne 2.0：兼听、敏行
在SNS内容爆炸式增长的当下，传统SFT训练方法有局限。小红书NLP团队推出RedOne 2.0社交大模型，采用以RL为核心的三阶段渐进式训练方法，实验显示其性能优异，还能转化商业价值。
为何底层数据湖决定了 AI Agent 的上限？
随着 AI 落地企业进程加快，数据类型更丰富，传统企业级数据架构面临瓶颈。火山引擎构建多模态数据湖，以 Lance 为湖格式，从多维度选型技术，解决存储等问题，在多行业有应用潜力。
LLM将是又一个“惨痛教训”？强化学习之父Sutton再放炮：万亿美金AI泡沫可能破裂
强化学习之父Sutton在采访中认为，LLMs过度依赖人类知识，违背‘惨痛教训’原则，发展将遇瓶颈，当前投资和期望或致泡沫破裂。讨论还涉及LLM与强化学习、人类模仿方式差异及AI领域经济动态等。
炸裂提速30倍！Meta提出REFRAF，无需改动模型，让RAG告别冗余与等待
近年来，RAG任务在提升模型回答质量的同时带来性能代价，Meta等团队合作提出REFRAG框架。它将无关段落压缩，引入强化学习选关键段落，实现高达30.85倍的TTFT加速，且无需改模型结构，实用性强。
从数据分布视角，重新认识下CoT
本文从数据分布视角重新审视大语言模型的思维链（CoT）推理。指出CoT并非真正推理，而是模仿，其效果受训练与测试分布差异影响。通过实验揭示CoT在分布偏移时性能退化，提醒勿过度依赖。
新范式来了！新能量模型打破Transformer++扩展上限，训练扩展率快35%
研究训练新能量模型 EBT，为输入和预测分配能量值，模拟思考过程。它有跨模态、跨任务通用性，训练扩展率比 Transformer++ 高 35%，推理性能提升 29%，还在多任务中表现出色，是扩展模型能力新范式。
社区供稿 | Jina Embeddings V4: 为搜索而生，多模态多语言向量模型
Jina AI发布多模态向量模型jina-embeddings-v4，参数38亿，能同步处理文本与图像。内置LoRA适配器强化检索等任务表现，在多基准测试中展现顶尖性能，支持单/多向量表示。介绍了架构、上手指南等。