低秩表示」共找到 1282 篇相关文章

算法论文8

揭开大模型“伪遗忘”,港理工等团队:结构不变就是没忘

近年来大语言模型隐私风险受关注,机器遗忘技术应运而生。港理工等团队构建表示空间诊断工具,区分‘可逆性遗忘’与‘不可逆遗忘’,揭示遗忘现象背后表示结构变化规律,还做了相关实验并得出核心结论。

量子位
开源动态8

Claude 终于能“看”视频了!这个开源项目让我刷视频效率翻倍

平时找视频信息效率,而开源项目让Claude等大模型 “看懂” 视频,能提取画面、音频并理解内容。介绍了其工作原理、帧预算、去重、细节模式等,安装使用门槛,还给出了应用场景和项目地址。

GitHubStore
产品应用7

OpenAI很看好!首个SWE-1模型发布,软件开发或将提速99%

Windsurf发布首个前沿模型SWE-1,目标将软件开发提速99%。它不只能写代码,还能协助软件工程流程。有三个系列模型,SWE-1运行成本,SWE-1-lite对所有用户开放,SWE-1-mini适用于延迟场景。

新智元
算法论文8

ICML 2025 | 注意力机制中的极大值:破解大语言模型上下文理解的关键

ICML 2025新研究揭示,在使用RoPE的现代Transformer模型里,注意力机制Q和K表示有集中极大值,V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系,对模型设计、优化和量化有重要启示。

深度学习自然语言处理
算法论文8

ICML 2025 | 注意力机制中的极大值:破解大语言模型上下文理解的关键

ICML 2025新研究揭示,在使用旋转位置编码 (RoPE) 的现代Transformer模型中,注意力机制的查询 (Q) 和键 (K) 表示存在集中极大值,而值 (V) 表示无此模式。研究通过实验揭示其与上下文知识理解的关键联系。

机器之心
产品应用8

全球首个具身智能开放平台来了!让大模型长出“身体”,像人一样自然表达交互

魔珐科技发布全球首个具身智能3D数字人开放平台魔珐星云,能让大模型‘长出身体’,实现自然表达交互。该平台突破了‘高质量、延迟、高并发/成本’的不可能三角,还可驱动虚拟和真实具身。

量子位
产品应用8

火山引擎 veFuser:面向扩散模型的图像与视频生成推理服务框架

近年来扩散模型在图像和视频生成领域取得突破,但 DiT 模型推理面临计算量大、模型多样、实时性需求等挑战。火山引擎推出 veFuser 推理框架,能在图片和视频生成上实现延迟、成本的高质量体验,且未来会持续迭代。

InfoQ
新闻资讯7

OpenAI「辣椒芯」干翻英伟达!老黄股价不跌反涨

OpenAI自研芯片「小辣椒」跑分碾压英伟达最强blackwell,延迟、高吞吐、并发等全达SOTA级别。但英伟达股价未跌反涨,OpenAI也表态不会弃用英伟达。「小辣椒」预计2027年量产,OpenAI还将开发后续版本,不过其数据中心负责人离职,无人接手。

量子位
新闻资讯7

Qwen 3-235B Aider编程能力击败Claude3.7,成本便宜百倍

Qwen3-235B-A22B在Aider多语言编码基准初步测试中击败Sonnet 3.7 Thinking和OpenAI o1,成本便宜150到600倍。Qwen3-32B准确率超GPT-4.5和GPT-4o ,代码编辑格式正确率达100%。

AI寒武纪
新闻资讯7

Coinbase CEO:全员强制 AI 编程,违者开除!

Coinbase CEO Brian Armstrong在播客透露,因部分工程师拒绝使用AI编程助手,他解雇了几人。公司为工程师买了AI工具企业许可证,他强制全员注册使用,认为AI是必选项。Stripe联合创始人对依赖AI代码存疑。

AGI Hunt