「端侧优化」共找到 1329 篇相关文章
鸿蒙元服务的“体验密码” | 从京东到深圳万象城，看技术底层如何让服务直达用户
AI时代，系统能感知用户场景与需求，主动推送服务。鸿蒙元服务解决用户体验痛点，其技术底座帮开发者“减负”。如京东复用代码，深圳万象城优化停车服务，还为中小商户提供零代码开发方案。
Claude Opus 4.6差评如潮！思考深度暴跌67%，AMD总监6852次日志打脸
Claude Opus 4.6遭差评，用户感其「变笨」，输出浅、易失败、违规提示增多。AMD总监用6852次日志证明其「思考深度」降67%，价格高却性能倒退。Anthropic虽称优化，但用户不满默认值被改。
英伟达的AI已经开始接管整个项目了？SATLUTION自主进化代码库登顶SAT竞赛
NVIDIA Research提出SATLUTION框架，将LLM代码进化能力扩展到完整代码库规模，能处理复杂项目。它协调LLM智能体对SAT求解器代码库迭代优化，在SAT竞赛中超越人类冠军，成本低且效率高。
ZeroGPU Spaces 加速实践：PyTorch 提前编译全解析
本文聚焦 ZeroGPU Spaces 加速实践，介绍 PyTorch 提前编译。ZeroGPU 使在 Hugging Face Spaces 用 Nvidia H200 硬件更高效，但有局限。提前编译可优化模型，提升演示速度，还分享了接入方法、高级技巧及演示示例。
AICon上海演讲精华回顾：《GMI Cloud 全球化高性能分布式推理服务构建实践》
AICon2025上海站，GMI Cloud资深架构师Frank Lee分享《GMI Cloud全球化高性能分布式推理服务构建实践》，介绍其推理平台，拆解扩缩容等能力，分享架构设计、部署及优化实践，揭秘推理提效关键路径。
55.9K star！微软硬核开源文档转换神器，LLM最佳拍档！
介绍微软开源的轻量级Python文档转换工具MarkItDown，它支持20+格式智能转换为结构化Markdown，专为LLM文本分析场景优化，解决开发者处理多格式文档痛点，还阐述其功能、技术架构等内容。
国产GPU开始造世界！国内首个全栈具身智能仿真平台来了
摩尔线程发布国内首个全栈国产化具身智能仿真平台MT Lambda，实现Sim-to-Real真机验证。该平台像物理AI训练流水线，集成物理、渲染、AI引擎。其依托全功能GPU和MUSA架构，还构建了云端、端侧、生态闭环。
所有环节都上最强模型，这可能是做 AI 智能体最贵的错误
开源项目 AgentOpt 指出，很多团队做 AI 智能体默认把最强模型塞进各环节，既贵效果也未必好。真正决定智能体效果和成本的是将合适模型放合适位置，智能体需要能找最优解的模型优化器。
上交大和辉羲把LLM刻进ROM！推理性能冲2万token/s，GPU时代终结？
硅谷Taalas将大模型‘物理焊死’进芯片引关注，而上海交大、辉羲智能与微软亚洲研究院团队用ROM+SRAM异构架构，将端侧LLM推理速度推至20,000 tokens/s。介绍了ROMA和TOM架构优势及应用场景。
刚刚，Figure 03人形机器人登场，能感知一枚回形针重量
Figure 03是初创公司Figure发布的第三代人形机器人，能做家务、胜任服务类工作，指尖可感知3克力。它配备新传感器和手部系统，为家庭设计，实现无线自主运行，也为量产和商业应用做了诸多优化。