「机制设计」共找到 2058 篇相关文章
【一手实测】字节豆包 1.6 + Trae + 火山 MCP + FaaS:AI Agent 开发部署全流程体验!
本文作者实测字节豆包1.6系列模型,用其设计落地页,还借助Trae、火山方舟MCP等实现AI Agent开发部署全流程。测评显示豆包1.6多模态能力强,处理复杂指令效果好,价格实惠,字节AI云原生生态前景佳。
YC 开源自家 Harness,3 天斩获 3.9k Star,QM 如何划清 Agent 的权限边界
YC开源的QM项目上线3天获3.9k GitHub Star,定位企业级Agent Harness,解决AI规模化落地管理难题。它补齐企业团队刚需能力,设计贴合企业规则,解决隔离与协作、权限管理问题,顺应行业从拼模型到搭骨架的转变。
公里级场景也能稳住了,国产团队把长视频3D重建又往前推了一步
浙江大学、地平线机器人和之江实验室的新工作 Scal3R 要解决长视频 3D 重建问题。它借助 test - time training 技术,设计全局上下文模块和同步机制,提升长序列重建稳定性和精度,能处理超万帧几千米的场景。
马斯克兑现承诺,开源X推荐算法!100% AI驱动,0人工规则
1月11日马斯克宣布7天内开源X平台推荐算法,如今承诺兑现。新算法由Grok驱动,全AI化,移除人工规则。它双引擎驱动信息流、15种行为预测打分,还揭示过滤机制与设计理念,为创作者提供曝光建议。
破解AI对不同上下⽂位置的敏感度不⼀致,新框架使出“解铃还须系铃人”
语言模型存在位置偏见,影响复杂推理等任务。论文提出Pos2Distill框架,将模型优势位置能力迁移到劣势位置缓解偏差,设计了Pos2Distill - R1和Pos2Distill - R2,在检索和推理任务表现好且有跨任务泛化能力。
谈一谈TP推理场景下MoE Group GEMM的优化思路
作者在使用H20测试SGLang CUTLASS MoE时,发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案,启动多个不同配置Kernel,依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。
牛芯基于UB协议,以IP筑牢生态根基
本文围绕牛芯半导体在UB协议生态中的IP布局展开。UB协议填补国内空白、打破国外垄断,牛芯的PHY IP等取得进展。还介绍其设计理念、架构优势等,如对等架构、单边语义等,以及在内存池、拥塞控制等方面的应用,助力开放算力生态。
阿里:RL强化LLM推理,是技巧还是陷阱?
近年来,强化学习(RL)成为解锁大型语言模型(LLM)复杂推理能力的关键工具,但该领域也面临技术选择困境。阿里联合多所高校的论文通过大规模可复现实验,揭示主流RL技巧的机制与适用场景,还发现极简组合(Lite PPO)性能超越复杂方案。
AI 基础知识从 0.5 到 0.6—— Transformer 架构为何能统治AI领域?
文章围绕Transformer架构展开,先介绍其诞生背景,对比CNN、RNN等模型,阐述其在多领域的核心地位。接着剖析工作流程、实现原理,包括QKV机制、多头注意力等。最后列举T5、GPT等常见架构模型,并提及通义千问3与MCP协议。
Google开源MCP数据库工具箱轻松连接各类数据库
近日Google开源新项目genai - toolbox,它是为数据库设计的MCP服务器,能让开发者用不到10行代码将数据库工具集成到AI应用。该项目封装复杂问题,有动态工具注册机制,支持主流数据库,提供多语言SDK和多种部署方式。