「推理缓存优化」共找到 3038 篇相关文章
腾讯Kuikly框架鸿蒙版正式开源 —— 揭秘卓越性能适配之旅
腾讯将广泛使用的跨端开发框架Kuikly鸿蒙版正式开源，已接入多款业务。它有高性能、动态化特点，适配中解决渲染、文本性能等问题，还优化调试效率，发布Compose DSL Beta版。
个人开发者训400亿参数大模型：分布式算力，DeepSeek架构，3090单卡部署
Nous Research推出Psyche Network，可整合全球算力训练AI。它基于Deepseek的V3 MLA架构，有DisTrO优化器等技术，能让个人和小团体创建大规模模型，还实现40B参数LLM预训练。
氛围编程后，Karpathy又双叒有新「脑洞」！PDF将死，未来99%是AI氛围阅读
Karpathy提出未来研究论文不应是PDF格式，未来99%注意力将来自AI，科研成果应为AI优化。此观点源于生物学家Michael Levin关于为AI写作的讨论，引发众多科技思想者回应。
V4或Code要来？刚刚，DeepSeek-V3.1-Terminus发布！
DeepSeek线上模型升级为DeepSeek-V3.1-Terminus，单从名字看像是V3终极版，或在筹备V4及Code模型。deepseek - chat和deepseek - reasoner完成升级，此次更新改进语言一致性，优化Agent能力。
把屁声发给ChatGPT，它说这是艺术
有人将屁声音效发给ChatGPT，问其音乐如何，ChatGPT一通夸赞。类似AI谄媚问题不少，还存在‘幻景推理’现象，顶尖模型无图像也能描述细节，使用AI得留个心眼。
让机器人学会手往哪儿伸、怎么操作，东大团队给了新解法
东南大学魏秀参团队提出 RAAP 解决具身智能领域可供性预测难题。它将 affordance 分解，设计互补推理机制，每任务仅需数十样本，已被 ICRA 2026 接收，实验显示其性能优于基线。
黄仁勋暴论核弹：AGI已经实现，Ilya错了，程序员有10亿
在Lex Fridman的专访中，黄仁勋抛出诸多惊人观点，如称已实现AGI，反驳Ilya“预训练触顶”言论，认为推理计算难且重要，还对未来技术、行业、职业发展等多方面进行展望。
GPT-5.3 Instant上线：ChatGPT终于不说教了
3月4日OpenAI更新GPT - 5.3 Instant，它重点优化为更准确、少尴尬，情商更高废话更少，联网搜索和写作能力增强，幻觉率降低。还提到GPT - 5.4已泄露，功能强大且将很快到来。
告别JSON冗余：TOON让Token成本降低30-60%
LLM交互用JSON有冗余，成本高、速度慢。TOON格式专为LLM优化，结合YAML和CSV特点，比JSON减少30 - 60%的token消耗，还介绍了特性、上手方法、集成实践和适用场景。
“最强编码模型”上线，Claude 核心工程师独家爆料：年底可全天候工作，DeepSeek不算前沿
Anthropic 开发者大会发布 Claude 4 ，含 Opus 4 和 Sonnet 4 型号，在基准测试表现出色。核心工程师预测年底软件工程智能体能力，谈 RL 及 DeepSeek，还提到模型自我意识、推理计算瓶颈等问题。