「AI工程架构」共找到 10888 篇相关文章
腾讯15年资深后台工程师，转战大模型推理的抉择
本文是腾讯15年资深后台工程师吴银光的转型自述，分享了他从零切入大模型推理工程的抉择过程，给出了清晰的入门路径与自检方法，分析了AI Infra与传统Infra的异同，为有意转型AI的技术人提供了实用参考。
最近新出现的两个提示词注入攻击场景
随着AI应用广泛，提示词注入攻击场景增多。一是Checkpoint发现带注入攻击的恶意软件，与AI分析系统对抗；二是多所大学论文含面向AI的秘密指令，对抗AI审稿。本质是攻防双方的对抗，且会持续。
开源版 Cowork 项目在 X 爆火，创始人：感谢 Cowork，让我们三年的探索被看到
Anthropic的智能体工具Cowork在X上爆火，CAMEL AI的开源项目Eigent作为平替也跟着火了一把。文章复盘了CAMEL AI从2023年发布CAMEL框架到Eigent项目的三年探索经历，介绍了Eigent的产品设计、技术架构、应用场景及发展情况。
对话Persom张天翊：我想做一个人在数字世界的身份证｜甲子光年
本文是甲子Builders对Intuition Lab创始人张天翊的专访，讲述他前次AI创业失败后，瞄准AI缺少用户上下文的痛点，推出开源Personal Model，即将内测AI记忆产品Persom，打造数字世界个人身份层，重构人与AI协作模式。
实测！DeepSeek V4-pro是第一个接近Claude开源模型，前Meta研究员震惊
DAIR.AI创始人、前Meta AI研究员Elvis用DeepSeek - V4 - Pro在Pi框架搭LLM知识库，该模型开箱即用，完成知识密集型多步研究任务表现出色，在开源模型里Agent编程和推理能力强，架构设计让推理快且成本低。
蚂蚁·安诊儿医疗大模型：正式开源并登顶权威医疗榜单
近日，蚂蚁集团联合浙江省卫生健康委开源自研的蚂蚁·安诊儿医疗大模型。它基于蚂蚁百灵大模型架构，经深度训练，是参数规模最大的开源医疗模型。该模型在多评测中表现出色，有三阶段训练流程，架构高效、推理快，已开源助力行业发展。
基于大模型的领域场景开发：从单智能体到多智能体的React框架设计与实现
作者团队经历从提示词工程到流程编排模式各阶段，现设计架构升级，选用层级指挥模式的React框架，实现单智能体对工具调用的反思规划，后续还将迭代实现多智能体协作，同时提及技术选型、系统架构等内容。
国内首次！8.9毫秒推理速度破纪录，1元打穿百万token
在2025人工智能计算大会上，浪潮信息发布元脑SD200和元脑HC1000两款AI服务器。前者让DeepSeek R1的Token生成速度达8.9毫秒，后者将推理成本降至1元/百万Token，解决了AI智能体速度与成本难题。
DeepSeek一句话让国产芯片集体暴涨！背后的UE8M0 FP8到底是个啥
DeepSeek V3.1发布后，官方留言提及新架构和下一代国产芯片，引发AI圈轰动，国产芯片企业股价上涨。文章介绍了UE8M0 FP8概念，分析其适配国产芯片原因，还猜测适配的芯片厂商，指出代表国产AI走向软硬协同。
牛芯基于UB协议，以IP筑牢生态根基
本文围绕牛芯半导体在UB协议生态中的IP布局展开。UB协议填补国内空白、打破国外垄断，牛芯的PHY IP等取得进展。还介绍其设计理念、架构优势等，如对等架构、单边语义等，以及在内存池、拥塞控制等方面的应用，助力开放算力生态。