「实际开销」共找到 296 篇相关文章
图解GPT-OSS：架构、消息格式与推理机制等
OpenAI发布首个开源大模型GPT-OSS，虽性能无惊喜，但设计思路有意思。其架构是经典延续，消息格式有巧思，支持三档推理模式，分词器有小进步，这些设计在实际应用和理论上有一定价值。
红杉中国xbench全球首发，AI智能体真实战力揭榜！
红杉中国推出全新AI基准测试工具xbench及相关论文，采用双轨评估体系和长青评估机制，首期发布两个核心评估集并综合排名，还提出垂类评测方法论。它能追踪模型能力与实际场景价值，解决现有评估难题。
大模型能复刻这些系统吗？ProgramBench给出了残酷答案
斯坦福NLP组发布ProgramBench，用200个完整代码库重建任务测试主流大模型，要求模型仅根据可执行文件还原如SQLite等项目完整代码，结果所有模型实际解决率为0%，说明模型更擅模仿代码表面结构。
用印度程序员冒充 AI 的“独角兽”彻底倒闭了！伪 AI 烧光 5 亿美元，连微软和亚马逊都被“坑”了
英国 AI 初创公司 Builder.ai 正式破产，欠下超 1 亿美元债务。它曾估值近 10 亿美元，宣称用 AI 构建应用，实际大量依赖人工。类似“伪 AI”公司不少，靠人力换融资，最终坑了投资人和用户。
深度解读黄仁勋的万亿美元蓝图
2026年3月16日，黄仁勋在GTC演讲中称AI计算需求至少达1万亿美元，实际或更高。他回顾AI三次拐点，介绍推理时代超级计算机Vera Rubin，还发布OpenClaw等软件，成立开源模型联盟，展示各行业应用，强调共封装光学重要性。
五倍推理加速，激发自回归潜能，苹果新工作让LLM预测未来
近年来自回归训练方法成语言模型主流范式，但推理阶段计算开销大。苹果研究人员开发框架，让预训练自回归大模型多 token 预测，代码和数学任务推理加速达 5.35 倍，一般任务约 2.5 倍。
Anthropic扒了Claude的数据，发现一个残酷真相：越拥抱AI的人，越先被AI干掉。
Anthropic研究报告显示，越拥抱AI的行业越先被AI替代，如程序员、客服等岗位渗透率约70%。虽目前未大规模失业，因理论与实际渗透有差距，但随着阻力被击破，失业率恐上升，年轻人入职率已受影响。
超越免训练剪枝：LightVLA引入可微分token剪枝，首次实现VLA模型性能和效率的双重突破
文章介绍LightVLA框架，它是用于提升VLA推理效率和性能的视觉token剪枝框架。针对VLA模型计算开销大、推理延迟高问题，提出两大创新，在LIBERO实验中性能超经典模型，还实现推理加速。
代码怎么才能跑的更快
文章围绕让代码跑更快展开，先介绍调整源代码的方法，如降低循环开销、去除内存引用等，又阐述使用硬件加速指令，像用 SIMD 函数、避免分支语句等，还提及多核并行和分析瓶颈等要点。
零Token部署GraphRAG，LinearRAG做到了~
现有GraphRAG模型在实际应用中常不如朴素RAG，原因是自动构建的知识图谱质量不佳。LinearRAG框架通过Tri - Graph架构、两阶段精准检索和零Token范式重构GraphRAG，在多数据集上超越现有方法，代码和数据已开源。