「token效率」共找到 1758 篇相关文章
Ilya的首个模型来了！
掌握内幕的草莓哥爆料，Ilya正构建以TTT为核心的小型推理引擎。他预见传统大模型的死穴，SSI将TTT概念落地，其引擎在数据效率等方面优势明显。SSI获投资，本月或发新模型。
英伟达新架构引爆全模态大模型革命，9B模型开源下载即破万
英伟达推出全模态大模型OmniVinci并开源，其90亿参数规模性能超同级别甚至更高级别模型，训练数据效率是对手6倍，能精准解析视频和音频，在多模态应用场景中表现卓越，下载量破万。
CUDA-MODE第77课课程笔记：用于GPU kernels的DSL
该课程笔记由Tri Dao介绍GPU kernel开发的DSL生态，涵盖PyTorch、Triton、Cute - DSL等。提出计算效率评估公式，对比不同DSL在Softmax、GEMM等操作的性能。还提及其他DSL工具与Triton扩展项目，并给出使用建议。
光刻机巨头变身AI金主，Mistral AI成欧洲估值最高初创企业
法国初创公司Mistral AI在2025年9月完成20亿欧元融资，估值达140亿美元，成欧洲估值最高科技初创企业，由阿斯麦牵头投资。该公司技术实力强，模型参数效率高、架构创新，还注重开源和多语言支持。
狂揽 11.8K Star！用大厂 PUA 话术「驯化」AI，这个项目把 Claude 逼成了卷王！
GitHub上名为PUA的项目狂揽11.8K Star，作者用大厂PUA话术‘驯化’AI，总结了AI的‘五大摆烂行为’，建立‘心理学框架’，实测数据显示能提升AI编程效率，还介绍了安装方式和常用命令。
实测最强的Cowork Agent模型M2.7，这是龙虾最好的模型搭子
实测MiniMax新发布的M2.7模型，解决了Agent的笨拙感，是国内最强的Cowork Agent模型。它技能命中率高，能自进化，对办公场景做了优化，还能解决生产效率问题，加强了人设保持能力。
万亿参数狂欢！一文刷爆2025年七大顶流大模型架构
文章深入剖析2025年顶级开源模型的创新技术，介绍了DeepSeek V3/R1、Kimi 2、Qwen3等七大顶流大模型架构，揭示滑动窗口注意力、MoE和NoPE如何重塑效率与性能。
提前实测Opus 5：3D细节封神，然而有一个致命缺陷
全网苦等Opus 5，结果其暂缓发布，理由是怕威胁人类对高级AI的控制，遭网友怒批。部分开发者提前实测，它3D细节表现出色，但耗token且看图测试翻车，原定有诸多强大特性。
Claude灾难级大宕机，全球开发者集体炸锅！Anthropic三连翻车被怒喷
4月6日Claude新功能Ultraplan上线就遭遇大规模宕机，开发者看到满屏‘授权失败’等。此前源码泄露，现又被指修改系统提示词报错、性能下降。虽Ultraplan有效果，但token消耗大，Anthropic太急，产品稳定性堪忧。
重塑注意力机制：GTA登场，KV缓存缩减70%、计算量削减62.5%
GTA由多所高校联合研发，提出大模型框架，解决传统多头注意力机制弊端。通过分组共享注意力矩阵和压缩潜在值表示，削减计算量、缩减KV缓存，实验验证其性能优、效率高，虽有局限但前景好。