「推理性能优化」共找到 4171 篇相关文章
不靠Agent，4步修复真Bug！蚂蚁CGM登顶SWE-Bench开源榜
蚂蚁集团代码图模型 CGM 基于开源模型，不靠 Agent 架构，用 4 步轻量级流程完成仓库级代码修复，在 SWE - BenchLite 公开排行榜成绩亮眼，打破闭源垄断，还解决了 LLM + Agent 架构的一些问题。
Vector数据库退位，AI记忆Memvid登场！
近期基于视频的AI记忆库Memvid大火，宣称革新AI记忆管理，能将文本片段存于MP4实现快速语义搜索。不过网友分析，它底层用FAISS，读写慢、文件大，仓库issues也显示其性能与声称相反。
英伟达Vera Rubin首秀，DeepSeek V4 Pro 跑出30倍Agent吞吐
NVIDIA公布基于真实芯片的Vera Rubin性能测试结果，在针对Agent工作负载的测试中优势明显。SpaceXAI将部署其CPU，探索轨道计算。这显示未来AI竞争关键是支撑Agent的计算基础设施。
Hermes Agent 发布更新 Herald：实时语音 + Agent 之间可以互相通信了
Hermes Agent 更新到 v0.20.0 代号 Herald，增加实时语音对话与唤醒词，可验证引用来源可信度，集成签名Webhook，支持代理到代理协议，还有性能与安全方面更新，顺应新 Agent 发展趋势。
20万彭博终端，现在免费开源了
4月量化圈开源项目FinceptTerminal平替20万年费的彭博终端。它用C++20开发，性能比肩彭博，有3大硬核能力。项目开源免费，打破金融工具垄断，未来更多机构级工具将被AI改造。
谷歌分布式训练开启另一轮扩展定律！百万芯片高压高故障仍然零全局停机
谷歌Decoupled DiLoCo研究打破大模型训练锁步模式，让集群各部分异步汇合。模拟数百万芯片高压训练时零全局停机、性能无损，还能提升系统有效工作时间，有算力撷取和异构计算等红利。
Anthropic 新研究：AI出错是“热混乱”
Anthropic研究团队发现AI可能无一致目标，只是瞎搞。他们将AI错误分类，测试发现推理越久越混乱，大模型复杂任务易失控。此发现改变对AI风险的认知，论文已在arXiv发布。
大语言模型逻辑评估
现有归因问答评估方法有‘归因短视’问题，研究团队提出 LOGICSCORE 框架，从三维度量化推理质量。在多数据集测试多款 LLM，发现专有、开源模型等存在不同逻辑问题，还分析典型逻辑错误。
Sora2还在5秒打转，字节AI生视频已经4分钟“起飞”
字节和UCLA联合提出Self - Forcing++方法，无需更换模型架构或重收集数据集，就能生成分钟级长视频，最长达4分15秒，高质量且开源，在长、短时长生成上性能领先。
这个AI精准模拟人类行为大脑状态，上Nature了
德国团队开发出人类认知通用计算模型Centaur，登上Nature。它基于Llama 3.1 70B，用5天训练，参数仅Llama的0.15%，能模拟人类在160项实验中的行为，性能超传统模型。