「大模型效率」共找到 10028 篇相关文章
【万字长文】大模型训练推理和性能优化算法总结和实践
本文总结大模型落地的训练、推理和性能优化算法与实践，介绍语言模型发展，对比BERT、GPT等训练方式，分析生成式大模型问题，还阐述数据处理、推理优化及训练调优等内容，并给出不同场景技术选型建议。
让AI学会潜意识推理，Sapient发布类脑模型HRM
新加坡初创公司Sapient Intelligence发布仅2700万参数的分层推理模型HRM，在多项高难度推理任务上超越大模型。它绕过大模型推理困境，借鉴大脑机制，训练效率高，开源后GitHub星标突破10.3k。
上下文记忆力媲美Genie3，且问世更早：港大和可灵提出场景一致的交互式视频世界模型
交互式长视频生成缺乏稳定场景记忆，制约下游应用落地。Google DeepMind的Genie 3有强场景一致性但未公开技术细节。港大和可灵提出的Context as Memory模型，上下文记忆力媲美Genie 3且投稿更早，还提升了计算效率。
大模型能复刻这些系统吗？ProgramBench给出了残酷答案
斯坦福NLP组发布ProgramBench，用200个完整代码库重建任务测试主流大模型，要求模型仅根据可执行文件还原如SQLite等项目完整代码，结果所有模型实际解决率为0%，说明模型更擅模仿代码表面结构。
国产开源大模型：再见9月，你好10月~
9月国产大模型持续开源，涉及DeepSeek、Qwen、百度等。如DeepSeek-V3.1缓解语言问题、优化Agent能力；阿里Qwen系列开源超10个模型；百度Qianfan-VL增强领域能力等。还展望10月新模型开源。
杨植麟当主持人的大模型圆桌：张鹏罗福莉夏立雪都放开说了
中关村论坛上，杨植麟、罗福莉、张鹏、夏立雪、黄超齐聚，共论agent的下一代演进。各位大咖观点硬核，如罗福莉认为中国大模型团队优势在‘算力受限下的最优解能力’，张鹏解释智谱新模型涨价原因等。
字节最新大模型秘籍：只挑能有推理潜力的数据训练！1.3B模型无需标签自动挑选
字节Seed团队发布AttentionInfluence成果，用1.3B模型给7B模型选数据，无需训练和标签。通过比较基础与弱化模型损失差异评估数据影响，在多基准测试提升模型性能，还能结合分类器全面提升表现。
神秘模型「Pony Alpha」引外网热议，它会是国产大模型中的谁？
近日，全球模型服务平台OpenRouter上搜索第一的神秘模型「Pony Alpha」引外网热议，它是新一代通用大模型，在多方面表现突出且可免费使用。网友、AI猜测其身份众说纷纭，已有人用它做出惊艳案例。
小米小爱同学：资源受限下，实现端侧大模型的高性能推理
InfoQ对话小米小爱同学端侧AI负责人杨永杰，探讨大模型端侧部署难题。团队自研推理框架，实现180 tokens/s推理速度，采用共享基座架构支持多业务。未来端侧大模型突破依赖硬件提升与架构演进。
大模型转行土木工程！首个「打灰人」评估基准：检验读、改工程图纸能力
首个工程自动化任务评估基准DrafterBench，可测试大模型在土木工程图纸修改任务中的表现。它模拟真实工程命令，考察模型四方面能力。评测发现主流大模型有一定能力，但未达工程一线要求。