「百万Token计算」共找到 1374 篇相关文章
AI时代终端大变局
随着算法、芯片、场景深度融合，端侧AI计算成终端智能化核心引擎，重塑IoT终端应用场景智能体验。端侧AI芯片作为技术底座，正重塑终端产业格局，虽面临挑战，但未来前景广阔。
外卖公司也能搞AI？
昨天凌晨美团悄悄开源560B参数的MoE大模型LongCat-Flash-Chat，引发国外网友疑惑。该模型推理速度超100 tokens/秒，基准测试表现出色，多项设计解决实际问题，贴合美团业务需求。
泪目！靠AI让爷爷「复活」，他拿下红杉1600万刀？要让所有地球人数字永生
国外14人团队Delphi获红杉领投1600万美元A轮融资。其产品源于创始人想复活中风祖父，现成长为“数字思维图书馆”。2023年12月测试版上线，有人靠它年入百万，未来想服务大众。
马斯克：AI巨浪已至，吸干全球救命钱！
马斯克警告AI激流已至，过去一年全球AI推理Token用量暴增25倍。ARK首席未来学家指出AI基础设施投资回报高，引发资本转移与挤出效应，传统企业融资难、人才流失，将被AI“吸干”资本。
AI Coding 长文分享：如何真正把工具用起来，从原理到实践
本文系统分享高效使用AI编程工具的方法，涵盖底层机制、提升对话质量的方式、实际应用场景，还推荐结合AI的编码最佳实践，旨在助开发者用好AI工具。
AGI是否需要世界模型？顶级AI专家圆桌论道，清华求真书院主办
2025年7月20日，2025基础科学与人工智能论坛举行，孙茂松、刘铁岩等顶尖AI专家围绕AI根本问题展开讨论，涉及因果性、世界模型、原创能力、算力等方面，为AI技术发展勾勒图景与挑战。
Meta 新成立超级智能实验室，让大模型RAG推理速度飙升30倍
Meta新成立超级智能实验室（MSL），首篇论文REFRAG将RAG推理速度提升30倍以上。它先把上下文压缩成摘要再解码，减少计算量和延迟，在多任务测试中表现出色，为大模型部署提供实用方案。
英伟达发布物理AI和机器人顶级开发平台Nvidia Jetson Thor
英伟达官网发布专为物理AI和类人机器人打造的顶级平台Nvidia Jetson Thor。其AI计算能力强劲，相比NVIDIA AGX Orin性能和能效大幅提升，硬件配置、存储、多媒体处理及相机支持等方面表现出色，能应对复杂场景。
成立五年，这家国产EDA公司冲刺IPO
据上海证券报报道，上海合见工业软件集团股份有限公司于12月26日提交IPO辅导备案申请。合见工软作为国内EDA领域领军企业，填补多项空白，助力国产替代。“超节点计算”带来新挑战，也为国产企业提供机遇。
低延迟、高吞吐，LLM优化与高效推理引擎综述
LLM计算成本高，用户要低延迟，企业要高吞吐。工程师开发优化技术，如动态批处理、KV缓存、模型量化。论文对比25款推理引擎，还探讨了多模态支持、手机端推理、新型架构支持等进化方向。