「参数压缩 - 覆盖假说」共找到 1208 篇相关文章
管你模型多大，250份有毒文档统统放倒，Anthropic：LLM比想象中脆弱
Anthropic等联合研究打破传统观念，只需250份恶意文档就能在参数规模从6亿到130亿的LLM中植入后门，且与模型规模及训练数据量无关。研究还测试了特定后门攻击，评估了多种训练配置。
GLM-5架构曝光，智谱两日涨60%：采用DeepSeek同款稀疏注意力
GitHub代码确认GLM - 5架构细节，它采用DeepSeek - V3/V3.2架构，含稀疏注意力和多Token预测，参数量745B。OpenRouter上神秘「Pony Alpha」被指是其测试版，受消息影响智谱AI港股两日涨60%。
中国AI芯片大突围，DeepSeek V3.1引爆算力革命
DeepSeek V3.1发布，是中国AI技术自主性的战略突围。它有6850亿参数，采用UE8M0 FP8适配国产芯片，具混合推理架构、Agent能力等。其发布或重塑AI产业格局，推动国产芯片发展。
深度解析 Claude Code 在 Prompt / Context / Harness 的设计与实践
本文深度解析Claude Code在Prompt、Context、Harness三方面的设计与实践。介绍了Prompt动态组装过程，探讨CLAUDE.md项目说明、上下文压缩体系和记忆系统，还阐述了系统级提醒、多Agent及安全体系等内容，文末分享了项目有趣彩蛋。
北大团队提出 SHINE：将任意文本转化为大模型 LoRA，仅需一次前向传播！
北大团队提出全新超网络架构 SHINE，仅需一次前向传播就能将任意文本转化为大模型 LoRA 参数，支持多轮对话。该方法实用潜力大、架构创新高效，训练流程成熟，推理快速，为大模型持续学习提供新思路。
准确回答视频细节！11B模型挑战视频理解「证据级」任务，开源可商用
近日，复旦大学邱锡鹏教授领衔的OpenMOSS团队联合模思智能开源11B参数的多模态视觉理解模型MOSS-VL。它能准确回答视频里可被验证的细节、时间、过程和空间关系，有六项证据级能力，架构设计独特，采用Apache2.0开源许可。
AI哪怕答案正确，逻辑链却惨不忍睹，奥数级不等式证明成功率不到50%｜ 斯坦福&伯克利&MIT
斯坦福、伯克利、MIT等联合研究，系统评估29个大模型在奥数级不等式证明任务的能力。研究发现，模型答案正确多靠猜，推理漏洞多，参数大、思考久也不能提升推理严谨度，但自我反思和定理线索策略有改善效果。
同一天，百度、OpenAI双双发力高智能AI！先来实测一波原生全模态文心5.0
2025年，OpenAI凌晨更新GPT - 5系列，百度在世界大会发布文心5.0。它采用原生全模态统一建模技术，参数达2.4万亿，评测领先。实测表现佳，其技术在多方面突破，为大模型演进提供路径，助百度重回竞争中心。
1/3预算跑平 GPT-5？上海AI Lab「路由魔法」成本直降63%性能反涨 7%！
当前大模型需解决性能与效率平衡问题，GPT - 5用测试时路由技术初步平衡。Avengers - Pro测试时路由框架集成不同LLMs，通过嵌入、聚类、评分操作，调整权衡参数α，能依查询特征选模型，性能和效率优于单一模型。
让大模型上车：理想汽车硬件协同设计算出最佳边缘模型
长三角洲AI实验室、中科院、理想汽车等找到大语言模型硬件协同设计寻优之路，在相同延迟下降低端侧模型困惑度，压缩模型架构挑选时间。研究揭示缩放定律，打造硬件感知建模框架，找到精度与延迟最优解。