搜索：基准测试成本

「基准测试成本」共找到 3481 篇相关文章

曦望，死磕AI推理成本｜甲子光年

1月27日，国产GPU厂商曦望发布新一代推理GPU芯片启望S3等。启望S3面向大模型推理定制，设计系统级重构，单位Token推理成本降约90%。曦望还推出超节点方案及推理云计划，目标是极致推理性价比。

文章指出，虽大模型成本下降，但 AI 公司仍难盈利。因市场追逐新模型，且模型消耗算力单位剧增。如 Anthropic 的不限量套餐失败，各公司陷入囚徒困境，还给出按使用量计费等破局思路。

OpenAI新论文《语言模型为何会产生幻觉？》提出，模型有幻觉是因标准训练和评估流程倾向奖励“猜对”。GPT - 5不爱猜测，在榜单表现不佳，网友质疑论文是为GPT - 5挽尊，论文引发网友多方向讨论。

Hugging Face 发布新功能，让开发者在 VS Code 的 GitHub Copilot Chat 中直接接入 Inference Providers，可调用 Kimi K2 等开源大模型测试，无需频繁切换平台。该功能有统一 API 等优势，定价门槛低。

OpenAI推出GDPval评估体系，通过真实工作任务审视大模型潜力，揭示AI从实验室走向3万亿经济战场的可能。早期测试显示，Claude Opus 4.1表现最佳，GPT系列进步快，模型在部分任务逼近人类专家水平。

推理优化公司Wafer公布数据，用AMD的MI355X芯片跑GLM 5.2，单节点吞吐达2626 tok/s，单流吞吐213 tok/s，成本不到英伟达B200的一半。该公司详述部署过程，还提及AMD软件生态的变化及英伟达面临的挑战。

给AI生成作品打水印成行业共识，但传统方法有短板。南洋理工大学等机构研究人员提出局部鲁棒图像水印方法MaskMark，成本仅为Meta模型WAM的1/15，在多任务中表现优异。

SaaS市场经历‘惊魂六十天’，‘SaaS终结论’甚嚣尘上。但吴昊指出，AI让软件开发成本降100倍、需求增1000倍，会使行业洗牌，旧护城河崩塌，新壁垒出现，企业需转型。

OpenAI和Anthropic完成联合评估，用内部工具测对方模型并公开结果。测试覆盖指令层级、越狱等四大领域，还发现不少细节和道德困境情况。此次合作意义重大，为行业树立安全合作先例。

上海人工智能实验室与香港中文大学研究团队发布论文，用MathIF基准揭示大模型“聪明”和“听话”有矛盾，越擅长推理越易忽略指令，还分析了原因并给出让模型更“听话”的方法。