搜索：大模型技术 - AI Reading Hub

「大模型技术」共找到 10342 篇相关文章

爱思唯尔把Meta告了：拿Sci-Hub盗版论文训练大模型

学术出版巨头爱思唯尔等多方原告起诉Meta，指控其未经授权获取、复制受版权保护的学术论文训练Llama大模型，数据源于Common Crawl和盗版平台。Meta以‘合理使用’抗辩，AI版权合法性尚无明确判例。

日本艺术家北冈秋吉创作的蒙娜丽莎图难倒一众大模型，ChatGPT、Gemini等表现不佳，国产玩家如豆包等也有判断失误。不过o3 - Pro一次性答对，GPT - 4o尝试三次猜对。

文章拆解大模型核心操作（RMSNorm、Softmax、Causal Mask、Sampling）背后的数学与Infra优化逻辑。指出Infra优化是用数学等价变换或精度妥协换硬件利用率和推理速度，还介绍各操作原理、问题及优化方法。

中国人民大学高瓴人工智能学院与华为诺亚方舟实验室聚焦大语言模型智能体记忆能力，形成含综述论文、数据集和工具包的研究体系。探讨记忆概念、重要性、实现与评测方法，还构建评测榜单、实现工具包。

中国人民大学等联合团队研究发现，大模型推理有“信息脉冲”，特定步骤互信息值飙升形成“互信息峰值”，对应“思考词汇”。基于此提出无需额外训练提升推理性能的方法，代码已开源。

随着网络攻击增加，威胁情报成主动安全关键。以色列本古里安大学发布LLMCloudHunter框架，用大模型从开源情报自动生成检测规则，评估显示其规则质量高，且大部分能编译成Splunk查询，软件已开源。

面壁智能开源MiniCPM-V 4.5多模态端侧模型，8B参数越级反超72B巨无霸，在多领域达SOTA。它首创高刷视频理解，性能强、效率高、适合端侧部署，还实现多技术创新，是开源端侧多模态AI的革命。

随着大语言模型（LLM）能力迭代，传统评估方法难满足需求。北大宋国杰教授团队论文首次系统梳理LLM心理测量学研究进展，革新评估原则，扩展测量构念与方法，还给出增强方法与未来研究方向。

随着大模型训练所需计算资源爆炸式增长，微软和哈佛团队联合开源优化器Dion。它利用低秩近似和解耦动量缓冲区，避免分布式训练同步完整梯度，在集中式和分布式场景都有高效表现，性能超Muon。

在 QCon 全球软件开发大会上，百度李志伟分享端侧大模型安全建设实践。介绍其发展趋势、优势与应用场景，指出面临隐私、内容等安全挑战，阐述云端与端侧安全方案，通过案例展示优化效果，展望未来安全建设方向。