「推理加速技术」共找到 4890 篇相关文章
北大联合阶跃星辰提出TensorCast：统一可编程管理大模型张量，推理「首字延迟」最高降低93.2%
随着模型规模增长、新应用兴起，大模型基础设施面临管理「张量状态」挑战。北大、阶跃星辰与北邮联合提出 TensorCast，解耦张量状态，复用管理能力，在多场景测试中表现出色，为大模型基建提供新范式。
顶尖技术+标准产品+创新模式+可靠服务，打造大模型商业落地中国范式 | 卓世科技@MEET2026
在大模型参数竞赛白热化的当下，焦点转向模型如何在行业存活、产生价值。卓世科技合伙人赵策在MEET2026大会提出，大模型下一场竞争在模型、终端、数据与业务流闭环，该司据此在多领域落地应用。
半年销量2000万+，宇凡微如何让AI模块“飞入寻常百姓家”？
芯师爷专访宇凡微品牌部总监张雨，探讨AI模块商业化前景。宇凡微展出多款AI模块，接入豆包大模型，有自研SAS系统等优势。其通过技术、市场等层面建护城河，践行“技术平权，快速量产”理念，未来向全场景方案升级。
打脸OpenAI！谷歌Gemini高级版获IMO 2025官方认证金牌：纯自然语言端到端推理
谷歌DeepMind宣布高级版Gemini在2025年IMO中6题解5题获金牌，经官方认证，全程用自然语言推理。对比OpenAI自我宣称拿金牌，谷歌成绩更有说服力，还介绍了Gemini进步及实现方法。
奥特曼点评中美AI牌桌：美国猛攻前沿，中国凭“两张王牌”错位竞争
OpenAI CEO 萨姆·奥特曼在贝莱德峰会上指出，从 o1 到 o3 模型，复杂推理成本降 1000 倍，2028 年末数据中心 AI 认知能力或超人类。他还拆解中美 AI 竞争，美国前沿领先，中国旧模型推理成本控制和基建推进有优势。
众安信科参与打造宠物数字身份证 重磅亮相2025外滩大会 | 甲子光年
2025外滩大会上，众安保险与众安信科联合推出“NFT宠物数字身份证”外滩大会限定款，将RWA代币化技术与宠物健康管理结合。众安信科深度融合RWA与AI技术，打通宠物服务全链路，构建新生态。
重磅！OpenAI时隔五年再发布开源模型gpt-oss：开源SOTA，可在16g笔记本运行
谷歌推出Genie 3后，OpenAI宣布发布开源推理模型gpt-oss，有gpt-oss-120b和gpt-oss-20b两个型号，采用混合专家架构和4位量化方案，能快速推理，原生支持128k上下文长度。文章还介绍了模型表现、训练等情况。
ScienceDiscovery实现树搜索驱动RSI，加速科学发现，小时级写出通用积分器，低成本找出物理科学规律
openJiuwen社区的ScienceDiscovery把科研试错交给程序，通过树搜索实现科研场景产物RSI。它能在多个案例中高效产出成果，成本低、耗时短，且底座灵活，可换算法和任务，但推广需解决验证速度和可信度问题。
亿级日活App的“算力生死劫”：推理成本倒挂，他们靠跨云架构砍掉75% GPU集群
一家AI穿搭+购物推荐的出海应用DAU破亿，但算力和传输成本高，ARPU远低于成本。该企业转向Akamai推理云，换用RTX PRO 6000，缩减服务器集群，降低成本，采用跨云架构过渡，实现零阵痛平替。
奥特曼深夜官宣：OpenAI重回开源！两大推理模型追平o4-mini，号称世界最强
OpenAI深夜推出gpt-oss 20B和120B两款开源模型，性能比肩o3-mini和o4-mini，能在消费级显卡甚至手机运行。有宽松许可证等亮点，还准备了体验网站。这是自GPT - 2后首次开源，降低了部分群体准入门槛。