「线性探测」共找到 98 篇相关文章
EMNLP2025 | 探究大语言模型的语言共享神经元提升低资源语言能力
论文提出BridgeX - ICL方法提升LLM低资源语言性能，通过三步实现优化。构建两类探测数据解决传统问题，识别重叠神经元，用HSIC选最优桥梁语言，在多任务实验验证其有效，揭示多语言机制规律。
这种“半光半物质”粒子，有望补上AI光计算最后一块拼图
宾大物理学家 Bo Zhen 团队造出激子－极化激元，用约 4 飞焦能量完成光信号全光开关切换。光子计算在非线性环节依赖电子器件，该成果有望补上缺失环节，但距商用还有关卡。
Transformer创新架构SALA：上下文更长，推理更快
面壁智能发布行业首个大规模训练的稀疏 - 线性注意力混合架构 SALA 及文本模型 MiniCPM - SALA。该架构降低推理开销与显存占用，MiniCPM - SALA 在长文本处理及推理上表现出色，还发起大奖赛探索性能极限。
AGI 新技术路线：下一代稀疏注意力机制 Monte Carlo Attention 开源
超对称技术公司在新版基座模型 BigBang - Proton 中使用的 Monte Carlo 注意力开源。它基于二进制块编码技术，用块间代表交流机制实现线性复杂度，兼具多种注意力机制优点，可满足宇宙尺度建模的上下文长度需求。
诺贝尔经济学奖背后的 AI 投资主线｜AGIX PM Notes
本文围绕诺贝尔经济学奖与AI投资展开。以创新驱动的增长范式与AI生产力、商业模式转型相关，还介绍本周全球股市去杠杆情况及AI领域动态，如Meta等公司技术进展，最后解读ETF市场价格与净值关系及投资策略。
Cache Me If You Can：陈丹琦团队如何「抓住」关键缓存，解放LLM内存？
普林斯顿大学陈丹琦团队新论文聚焦长上下文语言模型 KV 缓存问题。传统 KV 缓存大小随输入文本长度线性增长，此前方法难公平比较。团队提出「KV 足迹」指标，改进方法并推出 PruLong 优化内存，节省空间且保性能。
英伟达港大联手革新视觉注意力机制！GSPN高分辨率生成加速超84倍
香港大学与英伟达联合推出广义空间传播网络（GSPN）。它采用二维线性传播与“稳定性 - 上下文条件”，将计算量降低，保留图像空间连贯性。在多视觉任务刷新性能纪录，如高分辨率生成加速超84倍。
与Gemini Diffusion共振！首个扩散式「发散思维链」来了
西湖大学齐国君教授团队提出扩散式「发散思维链」，这是面向扩散语言模型的新型推理范式。它与传统思维链不同，能非线性生成，已应用于两种模型，增强后的模型在相关任务上超越现有模型。
无损减少80%激活值内存，提升5倍训练序列长度，仅需两行代码
港中文（深圳）和上海交通大学团队提出 StreamBP 算法，通过线性分解和分步计算，将大语言模型训练激活值内存降至梯度检查点的 20%，在相同内存下最大序列长度为其 2.8 - 5.5 倍，代码已开源。
建模世界偏好：偏好建模中的Scaling Laws
研究首次揭示人类偏好建模遵循Scaling Law，从论坛收集数据在Qwen 2.5模型训练，发现测试损失随训练规模指数增长线性下降。提出建模世界偏好，论文和模型已开源，还探讨了偏好建模可扩展性等问题。