「测试时扩展」共找到 2645 篇相关文章
模型压缩与量化：让大模型走向轻量化落地
文章介绍模型压缩与量化技术，其能在保持性能时降低大模型计算和存储需求，实现边缘设备高效部署。还阐述基础知识、关键技术路径、应用场景，并探讨未来发展方向。
文心大模型 4.5 系列正式开源，涵盖 10 余款模型
6月30日，百度正式开源文心大模型4.5系列，含10款模型，实现预训练权重和推理代码全开源。可在飞桨星河社区等平台下载，百度实现框架与模型“双层开源”，技术创新多，性能表现优。
逐个token太慢！大模型原生并行出token，CMU、英伟达新作Multiverse
卡耐基梅隆大学（CMU）和英伟达研究者提出Multiverse，这是能实现原生并行生成的新型生成模型。它解决了现有并行生成模型缺乏连贯性等问题，通过多方面协同设计构建推理模型，还开源了生态系统。
细粒度视觉推理链引入数学领域，准确率暴涨32%，港中文MMLab打破多模态数学推理瓶颈
香港中文大学MMLab团队发布MINT - CoT视觉推理方案，解决多模态数学推理难题。它引入特殊Interleave Token，构建专属数据集，采用三阶段训练策略，实验效果全面超越现有方法。
从browser-use 出发，品 Agent 实现
本文作者以学习总结视角，从browser - use出发解析Agent实现。介绍LLM不同阶段，阐述Agent记忆、规划、工具等要素，通过对话演示和源码分析展示运行机制，还探讨MCP集成和Coze space应用模式。
马斯克祸不单行！擎天柱负责人突然离职，特斯拉蒸发万亿市值
特斯拉创下单日最大跌幅，市值蒸发1500亿美元时，擎天柱Optimus项目负责人Milan Kovac宣布离职。他是特斯拉十年老将，离职因想多陪家人。现任AI软件副总裁Ashok Elluswamy将接替其工作。
Meta Shuffling的MoE Grouped GEMM kernel benchmark
作者拷贝fbgemm开源的moe grouped gemm kernel，修复小bug后与SGLang的Grouped GEMM Triton Kernel对比，结果显示fbgemm在MoE模型上性能提升显著，可应用到SGLang的ep - moe的grouped gemm kernel中。
危险？OpenAI 模型行为负责人：人类很快会进入「AI意识」，当前最重要是控制人机关系的影响
OpenAI模型行为与政策负责人Joanne Jang发文指出，与其争论AI是否有意识，不如关注其对人类“情感福祉”的影响。文章探讨了OpenAI在人机关系上的处理，以及如何塑造模型行为，还提及未来计划。
奥特曼：假如给我一千倍算力，我会这样做
奥特曼在最新访谈展望下一代模型，认为完美AI是有超人推理能力等的微型模型。理想AGI能自主发现新科学，使全球科学发现提速。他还回应算力假设，为企业指明投入资源方向。
心得分享：凭借 Cursor，数周内完成产品上线月收入过万！
网友用Cursor数周开发垃圾邮件清理工具获利，月收入近1500美元。他分享七条使用心得，如提示“自顶向下”、测试先行等，还建议关注交付效率和质量，持续迭代。