「基础设施模块」共找到 617 篇相关文章
AI生成苹果Metal内核，PyTorch推理速度提升87%
Gimlet Labs研究显示，AI能自动生成苹果芯片Metal内核，使PyTorch推理速度提升87%，在215个PyTorch模块上平均加速1.87倍。多个模型组合生成最优内核概率更高，不过研究对比方式遭质疑。
RAG效果不佳？先别急着微调模型，这几个关键节点才是优化重点
文章深入探讨RAG技术实现与优化，指出其在AI应用开发中常被当黑盒，从文档分块、索引增强、编码、混合检索到重排序等关键环节解析，强调结合场景调优以提升召回与精确率。
阿里开源创新AI Agent：媲美Deep Research，Github每日增长第一
人类信息检索能力受限，OpenAI的Deep Research虽能解决难题但闭源。阿里巴巴通义实验室开源AI Agent框架WebSailor，在多基准测试表现出色，核心技术围绕复杂任务生成和强化学习模块展开，在Github成绩亮眼。
基于闪电注意力机制，创新高效开源大模型
传统Transformer架构处理长文本和复杂推理任务有效率瓶颈，多数领先模型仍依赖传统注意力设计。MiniMax开源基于闪电注意力机制的专家混合模型Minimax，从架构、创新模块、训练框架等多方面优化，表现突出。
微软再放LLM量化大招！原生4bit量化，成本暴减，性能几乎0损失
微软公布BitNet v2，性能几乎0损失，占用内存和计算成本显著降低。它首次实现对1比特LLMs的原生4比特激活值量化，通过H - BitLinear模块处理异常通道，实验显示其在多方面表现优异。
北大联合阶跃星辰提出TensorCast：统一可编程管理大模型张量，推理「首字延迟」最高降低93.2%
随着模型规模增长、新应用兴起，大模型基础设施面临管理「张量状态」挑战。北大、阶跃星辰与北邮联合提出 TensorCast，解耦张量状态，复用管理能力，在多场景测试中表现出色，为大模型基建提供新范式。
谷歌搜不到的80%互联网，AnySearch全打通了！开发者连夜接入
2026年5月11日海外上线的AnySearch，定位AI时代「搜索基础设施」，专为AI Agent打造统一高质量搜索入口。上线一周在海外开发者圈爆火，经测试性能优于同类产品。通过不同场景实战，展现聚合广度、专业深度等四层能力。
当 Agent 开始接管工作流，企业最在意的三件事：安全运行、稳定交付、持续进化
Agentic AI 开发落地使基础设施问题凸显。AI 产业转向重视模型部署等，CPU 受关注，云计算角色转变，容器重要性凸显。Agent 应用规模化落地，AI 负载变化，Agent Infra 要解决四个问题，云和 CPU 任务也在改变。
AnyGen款新AI工具，专门解决打工人最头疼的3件事，Doc，PPT，Excel
字节跳动2025年12月在海外推出一站式AI协作工作台AnyGen，强调人机协作打磨。产品有文档、通用智能体、幻灯片、数据分析四个核心模块，能解决会议纪要整理、PPT制作等痛点，还与主流工具做了横评。
龙虾冲浪终于不迷路了！网页智能体新框架Avenir-Web开源即SOTA
伦敦大学学院等团队推出开源框架Avenir - Web，解决现有Web Agent在复杂网页操作中的难题。它采用模块化设计，包含经验模仿规划等模块，在ONLINE - MIND2WEB测试中表现出色，已开源供开发者探索。