「成本效益训练」共找到 3385 篇相关文章
低延迟、高吞吐，LLM优化与高效推理引擎综述
LLM计算成本高，用户要低延迟，企业要高吞吐。工程师开发优化技术，如动态批处理、KV缓存、模型量化。论文对比25款推理引擎，还探讨了多模态支持、手机端推理、新型架构支持等进化方向。
国货之光！全球AI存储基准测试MLPerf Storage 3.0结果发布，斩获九项第一｜甲子光年
9月1日，MLPerf Storage 3.0基准测试结果发布，XSKY星辰天合旗下MeshFS首次参赛，在并行文件存储赛道获九项第一。该测试覆盖多类负载，可多维度衡量存储系统性能，MeshFS兼顾性能与成本效率。
华师大智金院孵化金融原生基模Mint-Agent：超越GPT-5.6与Claude Opus 4.8，商业订单已超亿元
华东师大智金院团队孵化的金融原生基模 Mint - Agent 发布，在 FinanceAgentBench v2 上表现超 GPT - 5.6 - Sol 与 Claude Opus 4.8，单题推理成本低，商业订单超亿元，进入规模化金融场景验证阶段。
美国开源被中国甩在身后，套壳创业者更遭惨烈清算！OpenRouter CEO：天天乱用高价AI的员工要小心了
顶级科技播客20VC访谈OpenRouter联合创始人兼CEO Alex Atallah。他指出美国开源大模型落后中国，企业怕依赖巨头，AI时代员工成本应动态化，还探讨了模型生态、路由技术等行业热点。
AI最大的礼物，是让你能廉价地失败100次
文章指出AI最大的礼物不是让人成功，而是让人能廉价地失败。AI让开发成本降低、心力节省，增加了尝试机会。但人们需发布产品获取反馈，构建可演化系统，让失败为后续铺路。
挺搞笑，MiniMax模型就是不认识「马嘉祺」
网友发现 MiniMax 模型不认识「马嘉祺」，不同接口和平台均能稳定复现。这或因训练数据清洗和分布问题，使特定词汇生成异常。论文指出 tokenizer 机制缺陷或致模型异常，问题不会随参数规模增大消失。
比爆火的OpenClaw更王炸？这台百元神机，已经能让AI长出手脚帮你打工了
英伟达DGX Spark因内存供应紧张涨价，4万的成本让预算敏感者望而却步。阿里云无影个人云超算服务性价比高，按量付费百元左右。其AgentBay让AI获“手脚”，还具OpenClaw没有的能力。
千星项目LLMRouter：多模型路由，16+策略优化推理
UIUC开源智能模型路由框架LLMRouter，可自动为大模型应用选最优模型，有16+路由策略。该框架打通训练、评测等链路，解耦Route与Training模块，支持多轮协同等，还可插件式扩展。
首个测试时共进化合成框架TTCS：在「左右互搏」中突破推理瓶颈
厦门大学DeepLIT课题组提出全新测试时课程合成框架TTCS，不依赖外部标注，通过生成器与求解器共进化博弈合成课程数据，解决测试样本过难导致的训练坍塌问题，实验显示其推理能力提升显著。
智普入局OCR! GLM-OCR 0.9B 也杀进来了~
OCR是上古任务，如今大模型纷纷入局，用1B以下小参数模型搅动解析市场。GLM-OCR能做文本识别等，采用三级架构，有两阶段流水线及训练机制创新，在多场景表现出色。