「推理优化与部署」共找到 3521 篇相关文章
黄仁勋暴论核弹：AGI已经实现，Ilya错了，程序员有10亿
在Lex Fridman的专访中，黄仁勋抛出诸多惊人观点，如称已实现AGI，反驳Ilya“预训练触顶”言论，认为推理计算难且重要，还对未来技术、行业、职业发展等多方面进行展望。
GPT-5.3 Instant上线：ChatGPT终于不说教了
3月4日OpenAI更新GPT - 5.3 Instant，它重点优化为更准确、少尴尬，情商更高废话更少，联网搜索和写作能力增强，幻觉率降低。还提到GPT - 5.4已泄露，功能强大且将很快到来。
告别JSON冗余：TOON让Token成本降低30-60%
LLM交互用JSON有冗余，成本高、速度慢。TOON格式专为LLM优化，结合YAML和CSV特点，比JSON减少30 - 60%的token消耗，还介绍了特性、上手方法、集成实践和适用场景。
“最强编码模型”上线，Claude 核心工程师独家爆料：年底可全天候工作，DeepSeek不算前沿
Anthropic 开发者大会发布 Claude 4 ，含 Opus 4 和 Sonnet 4 型号，在基准测试表现出色。核心工程师预测年底软件工程智能体能力，谈 RL 及 DeepSeek，还提到模型自我意识、推理计算瓶颈等问题。
字节清华智能体自动写CUDA内核，比torch.compile加速2.11倍
字节Seed与清华AIR团队开源CUDA Agent，在GPU内核优化基准KernelBench上成绩优异。它是大规模智能体强化学习系统，训练数据经多阶段构建，分阶段训练，全面超越商业模型，还开源了训练数据集。
用户被通知烦到关掉 Instagram？Meta：我们反思了，用 AI 给自己“限流”
Meta为Instagram推出新机器学习排序框架，引入‘多样性算法’，在现有互动模型上加‘多样性过滤层’，通过‘乘性惩罚’减少重复内容推送，解决通知疲劳，还计划探索新策略和用大语言模型优化。
硅谷今夜集体失眠！互联网女皇340页AI报告猛料刷屏，大佬熬夜头秃
互联网女皇Mary Meeker暌违六年，发布340页《AI趋势报告2025》。报告指出AI使用成本下降，推理成本暴跌，中国模型以低成本崛起，中美在AI模型争霸，还提及ChatGPT的辉煌与未来潜在挑战等。
LLM省钱大测评！48块GH200，首个百亿级参数量实证
EfficientLLM项目聚焦LLM效率，提出三轴分类法和六大指标，实验覆盖多方面。研究表明效率优化需权衡，最优策略因任务和模型规模而异，且相关技术可迁移到跨模态模型，成果将开源。
斩获3K+ star，再见传统开发！这款开源AI后台开发框架让效率提升300%
ruoyi - ai是基于ruoyi - plus开发的开源AI平台，集成前沿模型，有聊天、绘画等全栈AI能力，具多模态交互和企业级部署支持，核心功能丰富，技术架构优，有实战成效，与同类有差异。
豆包是如何炼成的？字节放出自研万卡训练系统ByteRobust论文
文章介绍字节跳动的LLM训练基础设施ByteRobust。它由控制和数据平面构成，关键目标是获高ETTR。该系统优先快速隔离故障、考量人为错误、控制恢复可变性，已部署超一年，效果显著。