「推理加速技术」共找到 4962 篇相关文章
拳打可灵，脚踢 Veo 3，谁是物理世界的「懂王」？
多模态视频生成大模型是复杂系统工程，多为巨头游戏。MiniMax的Hailuo 02发布，ELO得分超谷歌Veo 3和快手Kling 2.0。它能呈现复杂运动，处理物理关系，提升训练推理效率，成本低，后续还将更新。
想知道你的LLM API被过度收费了吗？隐藏的Tokens终于可以被审计了
马里兰大学CASE Lab团队研究商业不透明大模型服务（COLS），定义其风险，提出三层审计蓝图。还推出验证框架CoIn，能高效识别token数量膨胀，有可定制性且审计开销低，为构建信任提供技术支撑。
o3-pro正式推出！说声“嗨”就花了80美元，思考1+1用时16分钟
OpenAI推出推理模型o3 - pro，同时o3降价80%。官方测评o3 - pro表现佳，但价格贵、响应慢。o3‘是否降智’引争议，奥特曼发小作文探讨AI对人类社会影响，还透露公开权重模型推迟。
没想到，最Open的开源新模型，来自小红书
向来低调的小红书昨日开源首个自研大模型 dots.llm1，它是中等规模的 MoE 模型，在较小激活量下性能良好。其开源力度堪称行业最大，还介绍了数据处理、训练优化等多方面技术细节。
对话27岁博导张林峰：模型压缩获CVPR满分有点意外，上海交大像我这样年轻老师很多
上海交大27岁博导张林峰团队在模型压缩领域成果丰硕。其提出的数据集蒸馏方法获CVPR 2025满分，还在多方面探索模型加速，成果已开源。张林峰认为数据蒸馏会成模型压缩趋势，也分享了知识蒸馏阶段看法。
统计可控数据合成！新框架突破大模型数据生成局限，麦吉尔大学团队推出LLMSynthor
麦吉尔大学团队提出新方法LLMSynthor，让大模型成结构感知的数据模拟器，为隐私敏感、数据稀缺场景生成不泄密的高质量替代数据。它通过结构推理、统计对齐等步骤实现，有理论保障，多场景实测效果佳。
代码、多模态检索全面登顶SOTA！智源BGE向量模型三连击，并全面开放
检索增强技术在代码及多模态场景作用大，向量模型是关键。智源研究院联合高校研发三款向量模型BGE - Code - v1、BGE - VL - v1.5、BGE - VL - Screenshot，登顶多领域测试基准，已全面开放助力研究与应用。
硅谷60万亿终极野心！AI取代所有人类工作，拿走全部工资！
斯坦福访问学者文章指出，硅谷终极野心是用AI和机器人取代所有人工作并拿走工资。Mechanize公司公开喊出愿景，还算出潜在市场规模达60万亿美元。诸多科技大佬预言AI将大规模取代人类劳动，技术也在飞速进步。
大模型狙击黑产：挚文集团社交生态攻防实战全揭秘
挚文集团生态技术负责人李波在AICon大会分享大模型在社交生态落地实践。介绍集团生态问题，提出构建治理框架，还阐述多模态大模型研发方案、细粒度用户画像建设及审核侧应用，最后总结现状并展望未来。
大模型下半场，阶跃凭什么领跑多模态之战
国内大模型竞争分资源派、技术派、国家队三阵营，多模态成竞争分水岭。阶跃星辰成立两年发22款自研基座模型，16款为多模态。其坚持理解生成一体化路线，在多模态领域有优势，还布局多应用场景。