「大模型预训练」共找到 9495 篇相关文章
10万引普林斯顿刘壮最新访谈：架构没那么重要，数据才是王道
普林斯顿大学助理教授刘壮在访谈中指出，架构没那么重要，数据、规模和记忆才是决定AI成败的关键。他认为ConvNet和Transformer性能差异源于训练细节；当前数据集远不够多样；大语言模型有语言空间的世界模型，但视觉空间的还缺失；记忆是瓶颈，智能体只是权宜之计；AI目前还替代不了研究生。
本周六直播预约 | Test-Time Reasoning综述分享！
当大模型训练成本飙升、数据枯竭，推理阶段扩展Test-Time Scaling（TTS）成研究热点。论文提出四维正交分析框架，梳理主流技术路线，提炼发展路径，给出操作指南与未来思考，本周六将直播分享该综述。
天下武功，唯快不破：LLM高效架构最新最全面综述
大型语言模型虽成就辉煌，但训练成本高、推理延迟大，核心问题源于Transformer架构。这篇综述论文首次系统性梳理高效LLM架构创新方案，分类七大类方法，延伸至跨模态应用，为研究者提供‘效率蓝图’。
刚刚，GPT-6正式发布！OpenAI：欢迎来到AGI时代
OpenAI正式发布GPT - 6 Astra和GPT - 6 Astra Pro，宣布AGI时代开幕。该模型训练规模大，能力升级显著，价格公布。基准测试成绩优异，在多方面表现突出，还展示诸多实际应用案例，已有企业开始测试。
从天价咨询到免费AI，夸克能改变志愿填报这门生意吗？
高考报志愿难题一直存在，天价咨询服务并非人人能享。夸克推出国内首个高考志愿大模型，免费生成志愿报告。它能理解复杂规则、把握考生需求，经多阶段训练优化，还搭载高考知识库，产品体验简便。
8块钱跑通一次强化学习全流程，潞晨云重塑微调赛道：1名算法工程师=1支Infra团队
大模型下半场，后训练特别是强化学习成核心战场。潞晨云微调SDK上线，它是国内首个全面开放、且兼容Tinker范式的Serverless微调平台，为强化学习提供低成本解法，在易用性和成本上有优势。
告别复杂提示词！蚂蚁新方式让AI自动理解你的个性化需求
蚂蚁通用人工智能研究中心自然语言处理实验室提出AlignXplore方法，通过强化学习让AI从用户行为归纳偏好并动态更新。该方法训练分两阶段，支持流式偏好推断，实验表现优异，是大模型个性化新尝试。
一文解读 LLM Posting-Train技术
文章解读了大语言模型后训练（Post-training）技术，介绍其核心价值，从微调、强化学习、测试时拓展三方面展开，分析现有技术瓶颈，指出前沿研究方向，还给出实践指南和工具链推荐。
谷歌Nature震撼发文，Gemini教练暴打专家！医学双料冠军，秒出睡眠报告
谷歌DeepMind把Gemini版大模型PH - LLM调教成「AI健康私教」，将可穿戴设备数据转化为睡眠健身建议，准确率超人类医生。它经两阶段训练，在多项测试中表现优异，或开启预防医学未来。
77岁Hinton首度访华，周伯文高能交锋！17分钟尖峰对话震撼全场
7月26日，77岁的AI教父Hinton首度访华，与周伯文教授进行17分钟尖峰对话。Hinton称多模态大模型已有「意识」，建议分技术训练「聪明」与「善良」AI，两人还探讨AI发展路径并寄语青年科研者。