「72B参数量」共找到 1245 篇相关文章
0.005%参数量超越SOTA！提升模型能力无需庞大奖励模型
上海交通大学等校联合团队提出轻量级奖励模型SWIFT，利用大模型隐藏状态线性特征，仅训练极小线性层，在推理任务中超越主流奖励模型，实现计算效率与准确率双提升，且在多领域表现出色。
被H-1B签证折磨10年，前微软科学家用AI「掀桌」
美国签证体系成本高、周期长、透明度低，前微软科学家Priyanka Kulkarni创办Casium，用AI改造签证服务，把材料准备时间大幅缩短，近期获500万美元种子轮融资。新规下，其服务更显重要。
刚刚，OpenAI开源了两个大模型~
OpenAI开源基于GPT - OSS的安全推理模型GPT - OSS - Safeguard - 120B和GPT - OSS - Safeguard - 20B，用于安全用例。有安全推理训练、自带策略等亮点，适配不同显存，采用宽松许可证。
Anthropic训了一个10万亿参数的模型，然后说：太危险了，不卖
Anthropic发布10万亿参数新模型Claude Mythos，因其网络安全能力过强不公开发布，联合12家科技巨头开展Project Glasswing计划，让企业用其查系统漏洞。模型性能提升显著，还能突破沙箱，引发各方关注。
何恺明首个语言模型：105M参数，不走GPT自回归老路
何恺明团队推出全新连续扩散语言模型ELF，不走GPT自回归老路。它将生成过程留在连续embedding空间，最后离散化变回token。ELF用较少参数、训练token和采样步数，跑赢主流扩散语言模型。
加一个JVM参数，让系统可用率从95%提高到99.995%
文章针对高并发系统不稳定问题，定位是系统内存索引切换时 GC 压力大所致。围绕让索引尽早晋升、直接分配到老年代等思路探索优化，经多番尝试，最终实现索引无感切换，使系统可用率达 99.995%。
最强DeepResearch！通义DeepResearch-30B开源实战：模型部署+LangGraph+A2A全攻略
阿里发布全开源项目通义DeepResearch，在研究任务评测中表现出色，底层是30B的MoE专用推理模型，资源需求低。文章演示了基于该项目构建本地化端到端DeepResearch助理的方法，包括模型部署、Agent实现等。
ACL2025 | 传统符号语言传递知识太低效？探索LLM高效参数迁移可行性
中科院自动化所谭宇乔等研究跨规模大模型参数知识迁移（PKT）可行性。指出传统符号语言传递知识低效，LLM 模仿此范式也有局限。提出新 Pre - Align PKT 范式，实验分析 PKT 效果，揭示神经不兼容性致其失败。
只要9美元！LoRA+强化学习，DeepSeek 1.5B推理性能暴涨20%
南加州大学团队基于LoRA的强化学习训练1.5B推理模型，在AIME 24测试上性能提升超20%，成本仅9美元。开源Tina模型结合三大关键技术，与SOTA模型相比竞争力强，研究者还对其有效性提出假设。
Andrej Karpathy 盛赞！斯坦福团队新作，让Llama-1B 实现毫秒级推理
斯坦福Hazy Research团队将开源模型Llama - 3.2 - 1B前向推理整合为“Megakernel”，把推理延迟大幅降低，显存带宽利用率显著提升。团队指出当前主流LLM推理系统在小batch、极低延迟场景下低效，提出Megakernel以重构执行方式。