「Attention性能瓶颈」共找到 2427 篇相关文章
1.5K Star！网页提取神器 webclaw：让 AI 精准抓取网页核心内容！
webclaw是专为AI工作流打造的高性能网页提取工具，能把网页转成适合大模型的内容。它有Token优化、极速响应等亮点，支持多种安装和使用方式，解决了传统抓取工具的痛点。
多模态模型挑战北京杭州地铁图！o3成绩显著，但跟人类有差距
近年来，多模态大模型在多种场景取得进展，但能否‘看懂图’存疑。西湖大学等团队提出评测基准ReasonMap，评估模型在地铁图理解中的能力，发现主流模型有瓶颈，闭源模型虽优但仍逊于人类。
英伟达Vera Rubin首秀，DeepSeek V4 Pro 跑出30倍Agent吞吐
NVIDIA公布基于真实芯片的Vera Rubin性能测试结果，在针对Agent工作负载的测试中优势明显。SpaceXAI将部署其CPU，探索轨道计算。这显示未来AI竞争关键是支撑Agent的计算基础设施。
Hermes Agent 发布更新 Herald：实时语音 + Agent 之间可以互相通信了
Hermes Agent 更新到 v0.20.0 代号 Herald，增加实时语音对话与唤醒词，可验证引用来源可信度，集成签名Webhook，支持代理到代理协议，还有性能与安全方面更新，顺应新 Agent 发展趋势。
20万彭博终端，现在免费开源了
4月量化圈开源项目FinceptTerminal平替20万年费的彭博终端。它用C++20开发，性能比肩彭博，有3大硬核能力。项目开源免费，打破金融工具垄断，未来更多机构级工具将被AI改造。
谷歌分布式训练开启另一轮扩展定律！百万芯片高压高故障仍然零全局停机
谷歌Decoupled DiLoCo研究打破大模型训练锁步模式，让集群各部分异步汇合。模拟数百万芯片高压训练时零全局停机、性能无损，还能提升系统有效工作时间，有算力撷取和异构计算等红利。
太巅了！MIT老哥在Transformer里造了台计算机，LLM从此不需要调用外部工具？
LLM在数学推理表现佳，但纯计算是短板。MIT的Christos Tzamos团队在Transformer内造计算机，实现WebAssembly解释器，解决数独难题，还突破注意力机制瓶颈，打开软件与神经网络新接口。
Sora2还在5秒打转，字节AI生视频已经4分钟“起飞”
字节和UCLA联合提出Self - Forcing++方法，无需更换模型架构或重收集数据集，就能生成分钟级长视频，最长达4分15秒，高质量且开源，在长、短时长生成上性能领先。
这个AI精准模拟人类行为大脑状态，上Nature了
德国团队开发出人类认知通用计算模型Centaur，登上Nature。它基于Llama 3.1 70B，用5天训练，参数仅Llama的0.15%，能模拟人类在160项实验中的行为，性能超传统模型。
外国小哥徒手改装消费级5090，一举击败巨无霸RTX Pro 6000
硬件改装大师 Der8auer 用 Shunt mod 对华硕 ROG Astral LC RTX 5090 进行改装，使其性能超越售价 10,000 美元的 RTX Pro 6000。不过改装有风险，且对风冷显卡可能不适用。