「预训练范式」共找到 2917 篇相关文章
华为新开源！扩散语言模型突破32K上下文，还解锁了「慢思考」
今年文本生成领域从自回归向扩散语言模型转变，但长序列训练不稳定是痛点。华为发布 openPangu-R-7B-Diffusion，将上下文长度扩至 32K，在多基准创 7B 参数量级 SOTA，还解析了其技术革新。
万卡时代，企业需要怎样的算力集群？
过去两年，AI算力需求跃升，消耗从训练主导转向推理驱动。企业算力需求有突发性等特点，智算集群是关键方案。InfoQ联合腾讯云发起直播探讨，还介绍了算力供给缺口、集群构建交付、性能优化及演进方向。
中兴发了一篇论文，洞察AI更前沿的探索方向
当大模型参数量冲向万亿级，AI 行业面临瓶颈。中兴通讯发布论文剖析困境，勾勒前沿方向。文中分析了 LLM 现状、架构瓶颈、AGI 争议等，还阐述了改进优化措施及下一代计算范式发展趋势，介绍了中兴的探索实践。
14万一台家务机器人！斯坦福华人博士具身创业首款产品亮相，用户还能买回去自己教
斯坦福华人博士赵子豪与迟宬创业推出家务机器人Memo，售价2万美元。它能完成多项家务，依赖ACT - 1具身模型，该模型用技能捕捉手套采集人类数据训练，用户还能教它新本领，预计2026年正式推出。
智能体崛起，AI+软件研发到新拐点了？
InfoQ《极客有约》X AICon 直播邀请多位嘉宾探讨 LLM 时代软件研发新范式。指出 AI 在测试中多为提效工具，距“原生开发时代”尚远；Coding Agent 潜力大；还谈及 AI 应用场景、落地问题、人员能力要求等。
Gemini 3.0还在预热，中国AI抢先！30秒造APP全网首测
谷歌Gemini 3.0预热时，国内新生AI神器蚂蚁灵光上线。它能30秒造APP，实现“生成涌现”落地，以闪应用开启范式革命，用信息美学融合全模态，探索“摄像头+AI”新形态，让普通人提前感受未来AI世界。
AI编程上瘾指南，一天不用浑身难受
本文是腾讯程序员近2个月AI编程经验总结。介绍了AI编程战略价值、研发范式转变，以CodeBuddy为核心的编程方法，AI×SDLC方法论，通过三大场景实践展示其应用，并分析边界局限，最后强调组织人才发展重要性。
上海AI Lab提出CANON：让RLVR自主识别优质推理模式
上海AI Lab与上海交大团队提出创新框架CANON，解决将人类先验知识融入RLVR训练的难题。它通过条件分组与对比机制，自适应放大有益指标变化趋势，在数学和逻辑推理任务上成果卓越，还能提升推理效率。
Andrej Karpathy深度解读：强化学习之父为何说大模型违背了「苦涩教训」
Andrej Karpathy深度解读Sutton与Dwarkesh的播客对话。Sutton认为大模型不符合「苦涩教训」，因其训练依赖人类数据集。他追求类似动物通过强化学习与世界交互的系统。Karpathy认可批评，认为找到符合原则算法是突破。
李飞飞一年前究竟说了啥？怎么又火了
AI教母李飞飞一年前访谈再引关注，她指出大语言模型或许并非真正智能，其基于一维语言信号训练，在理解三维物理世界存在局限。相关实验也证实大模型在物理任务表现差，不过也有人提出不同观点。