搜索：大语言模型推理

「大语言模型推理」共找到 8425 篇相关文章

突发！英伟达H200对华解禁，老黄赢麻了

特朗普拍板允许英伟达向中国出售H200，美确保“代差优势”，还抽25%分成。H200性能是H20的6倍，虽落后最新架构，但适合训练推理，此决定或为英伟达带来巨额销售额。

随着Gemini 3模型与第七代TPU的发布，谷歌打破OpenAI与英伟达主导的市场叙事。其全栈AI战略从底层基础设施到用户产品全覆盖，TPU进化、软硬件契合，吸引大客户，C端产品成发展引擎。

文章整理了火山引擎AI领航者计划活动中，大厂、投资人和创业者对AI行业的18条前沿认知，涵盖模型层、应用层和产业层，如强化学习成竞争焦点、视频生成将崛起等，展现2026年行业新趋势。

在号称「史上最严管控AI」的顶级会议ICLR 2026上，超五分之一审稿意见由大模型一键生成。这发生在ICLR颁布史上最严LLM规定后不久，引发诸多争议，也凸显AI改写科学评审分工的趋势。

Character AI和耶鲁大学团队推出开源模型OVI，它采用双骨干交叉模态融合架构，让音视频同步生成。其架构对称，用旋转位置嵌入技术对齐时间，训练策略分步进行，生成效果佳，为开源音视频生成提供新路径。

近年来，基于流匹配的VLA模型成机器人领域前沿技术，但训练依赖大量人类演示数据。清华等机构联合推出在线强化学习微调框架πRL，提出两种微调方案，在测试平台验证了有效性，目前代码等已开源。

文章探讨AI爱用破折号的原因，指出让模型不用破折号很难。分析了几种解释，如从训练数据学来、因“万金油”特性、受RLHF工作者方言影响等，认为训练数据混入大量纸质扫描书是最可能的原因。

今年1024程序员节，小红书技术副总裁凯奇、语音模型技术负责人风龙与Hugging Face联合创始人Thomas Wolf深度对谈。围绕AI Coding、开源、AGI等核心观点展开，探讨开源闭源、AGI未来、AI人味及个人能力等话题。

中科院与字节联合提出「GAR」，为构建自然图像的Dense Caption提供新思路。GAR具备精准描述、关系建模和组合推理能力，通过引入新组件，兼顾细粒度与全局上下文，在多测试集表现优异，且代码等已开源。

日本一座合资建设的数据中心是AI战略象征，承载训练大模型任务。但生成式AI兴起让数据中心成“电老虎”，与日本环保目标冲突。日本在发展AI与碳中和间艰难平衡，面临能源结构等多方面困局。