「光引擎」共找到 463 篇相关文章
大模型推理加速全链路：内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战，如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法，还介绍开源推理引擎赤兔在国产芯片的实践成果。
对话上交大程远：AI的终局不在云端，而在“感算一体”的物理世界
文章围绕端侧 AI 展开，以上海交通大学程远研究为例，探讨其技术方向“感算一体”，还提及 Agentic AI 热潮，对比其与大模型热区别，阐述端侧与云端关系，及光计算等底层硬件创新对智能设备的影响。
12项世界第一！国产基模一战封神，11亿参数逆袭70亿大魔王
蚂蚁灵波的LingBot-Depth 2.0空间感知模型，在测试中拿下12个世界第一，解决了玻璃、细小物体等行业难题。它还与奥比中光达成合作落地商业应用。其核心预训练基模LingBot-Vision被开源，有望加速具身智能生态发展。
LLM加速利器LMCache，极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件，能降低首次响应延迟、提升吞吐量，适用于长上下文场景。它将KV缓存存于多级存储，跨服务实例复用任意重复文本的KV缓存，节省GPU算力，与vLLM结合优化显著。
5Y News | 祝贺曦智科技今日登陆港交所！
4月28日，曦智科技-P在港交所主板挂牌上市，成全球AI硅光芯片第一股。上市首日股价涨幅大，市值达813亿港元。其由沈亦晨创立，在光电混合算力领域领先，募资将聚焦主业研发。
中国科大Science-Star（科星） : 一体化、可扩展的科学智能体搭建平台
中科大认知智能全国重点实验室开发了 Science - Star 科研智能体平台。它基于 ReAct 引擎，有一体化可视化支持、插拔式模块化架构和跨学科工具集成等特色，为科研智能体研发与实验提供高效基础设施。
从高考到实战，豆包大模型交卷了
火山引擎原动力大会 Force 2025 发布豆包大模型 1.6 等多项新产品。豆包 1.6 性能提升，在多方面表现出色；Seedance 1.0 Pro 视频生成能力强。大会强调‘AI 云原生’，还推出多个套件和技术进展。
详解Github 35K+项目：打通200+数据源，构建企业级AI的数据统一入口，支持MCP【上篇】
文章实测开源的AI数据统一访问引擎MindsDB，介绍其架构、安装启动方法，展示跨多数据源统一查询、AI模型赋能数据查询等功能，还将在下篇介绍知识库与智能体特性。
全能高手&科学明星，上海AI实验室开源发布『书生』科学多模态大模型Intern-S1 | WAIC 2025
7月26日，上海AI实验室在WAIC 2025上发布并开源『书生』科学多模态大模型Intern-S1。它首创‘跨模态科学解析引擎’，在多学科专业任务上超越顶尖闭源模型，多模态综合能力领先主流开源模型。
手撕Sora，脚踢Veo！13个行业实战案例，Seedance 2.0玩法大全
本文是藏师傅对 Seedance 2.0 的测评和教学，介绍其 API 春节后将上线火山引擎，支持全模态输入。通过 13 个行业实战案例展示该模型能力，如生成广告、宣传片、教学视频等，还提及 Agent 自动化应用。