「大模型推理系统」共找到 9204 篇相关文章
华为海思老兵上海创业，拿到亿元投资！
过去两年汽车行业竞争激烈，智能驾驶芯片成关键领域。近日，上海为旌科技完成A2轮融资首次交割，获君信资本1亿元。其创始人郑军是海思老兵，带领公司研发多款芯片，还提出诸多行业见解。
彻底说清 Human-in-the-Loop【下】：分布式环境下的挑战与应对
本文继续探讨如何将HITL Agent扩展到分布式环境，介绍分布式环境下的挑战与应对、实现分布式的HITL Agent、实现客户端的故障恢复及服务端的故障恢复建议，还给出演示代码参考。
一篇LLM × DATA技术最新系统性综述
上交大、清华等联合发表综述，探讨LLM与数据管理双向关系，分析LLM不同阶段数据管理技术与挑战并给出方案，还讨论了LLM在数据管理任务中的应用进展，为研究和实践提供指导。
SearchAgent-X: 打破效率桎梏，释放下一代「AI搜索智能体」的真正潜能
论文提出SearchAgent-X框架解决AI搜索智能体效率难题。研究剖析效率瓶颈，发现精度和延迟问题，提出优先级感知调度与无停顿检索技术，经评估大幅提升性能且不牺牲答案质量。
Linear-MoE：线性注意力遇上混合专家的开源实践
近年来，线性序列建模和混合专家（MoE）研究进步大，但两者结合研究少，相关开源实现缺失。上海人工智能实验室团队的 Linear - MoE 首次实现两者高效结合并开源技术框架，实验验证其有诸多优势。
间接提示词注入攻击(IPIA)原理、方法及案例
本文介绍间接提示词注入攻击（IPIA），它于2023年5月被认定，通过恶意三方数据攻击，适应性广。文中阐述攻击过程、方法，还以Mavy GPT日历泄露为例说明，指出虽有防护但攻击仍会持续。
将对话界面直接引入Web，微软开源NLWeb，实现ChatGPT级别搜索
微软 Build 2025 开发者大会上，开源项目 NLWeb 受关注。它简化网站自然语言交互界面开发，原生支持 MCP，能让任意网站变智能应用平台，还可调用廉价模型，使用方便。
Palo Alto5亿美元收购的Portect AI都有什么产品和技术？
2025年4月25日，Palo Alto Networks超5亿美元收购Protect AI，为客户提供端到端人工智能安全保障。Protect AI有两个开源软件ModalScan、LLM Guard和三个平台产品Gardian、Recon、Layer，防护方案完整。
从Chat、Code到Discovery，AI开始学着做科学家
本文报道AI发展进入全新阶段，任务从聊天、写代码拓展到自主科学发现，介绍PhAI Labs推出的DFM系统，分享架构设计与落地案例，分析行业痛点与解决路径。
当AI幻觉开始操作电脑：深大、港科大提出ECA，让Agent行动前先验证证据
本文针对Agent场景下AI幻觉会转化为实际错误操作的问题，介绍深圳大学与香港科技大学提出的ECA框架，通过独立验证加门控检查降低不安全执行风险，给出测试数据验证方案有效性。