「长文本训练」共找到 2941 篇相关文章
AI5芯片搞定,马斯克的纯自研超算Dojo 3又回来了
马斯克宣布AI5芯片设计进展顺利,特斯拉将重启Dojo 3工作。Dojo项目定位为面向机器学习训练的超算,此前曾暂停。如今Dojo 3将集成AI5或AI6芯片,有望助力特斯拉摆脱对英伟达依赖,自建算力体系。
压缩之外,Visual Tokenizer 也要理解世界?
MiniMax和华中科技大学发布视觉tokenizer新研究VTP,引发业界热议。该研究揭示传统仅以重建为目标的视觉tokenizer缺乏高层语义表示,提出在预训练中引入语义理解,还发现Scaling Law现象,虽有争议但为研究提供新视角。
Meta超级智能实验室又发论文,模型混一混,性能直接SOTA
大语言模型训练依赖算力和时间,传统模型 Souping 多采用均匀平均。Meta 等研究者提出类专家 Soup(SoCE),利用基准测试类别构成选最优模型,非均匀加权平均,实验显示其提升了模型效果与稳健性,在排行榜获 SOTA 成绩。
一夜之间,核心决策权旁落:年入195亿的公司,未来走向何方?
近日,荷兰政府接管安世半导体,称其有治理缺陷。三名外籍高管联手让闻泰科技董事长张学政被暂停安世半导体职务。闻泰科技回应是过度干预,已启动法律与外交途径,安世在多领域有布局。
AI正在淘汰“中间层”!昆仑万维方汉:要么冲进前10%,要么学会“向下兼容”
InfoQ 专访昆仑万维董事长兼 CEO 方汉。他指出 AI 会全面提升行业效率,促使从业者“向上”或“向下”发展;企业出海要选好市场、做好本地化和差异化;还探讨了 AI 商业化、开源等问题,认为开源能满足长尾需求、带来销售线索。
2025-04-努力不是做好事情最重要的因素
作者分享个人生活、工作等多方面情况,提及播客发布,认为努力非工作做好的关键因素,深入探讨Agent在业务应用中的问题,还谈及视频更新、投资经历等,最后表示要审视目标、精简事务。
DeepSeek 为什么把缓存涨了 11 倍?长上下文需求暴涨,得交点「存储税」了
8月17日,DeepSeek V4 Pro API输入和输出价格上涨,空闲时段缓存命中价涨5倍,高峰时涨11倍。此前其因高缓存命中率成性价比之选,但长上下文需求爆发致后端“缓存颠簸”,只能通过涨价收“存储税”。开发者可提高缓存命中率应对。
Anthropic 联创:2028 年实现 AI 自我构建的概率超过 60%
Anthropic 联合创始人 Jack Clark 发长文称,到 2028 年底,AI 实现端到端自动化研发概率超 60%。他分析多维度测试数据,指出 AI 在代码、科研、自我训练和管理等方面能力提升,也探讨了成真后的影响,但遭黄仁勋和陶哲轩质疑。
美国模型长期霸榜的LMArena,出现了一个国产模型
2025 年底,中美 AI 阵营发展路径有区分,美国多是强模型加工具链,中国在多方面发力。12 月 23 日 LMArena 更新文本榜,百度文心新模型 ERNIE - 5.0 - Preview - 1203 以 1451 分登上榜单,成中国第一且是前 20 名里唯一非美国模型。
存储的超级周期,缺货潮将贯穿2026年?
近期存储市场火热,价格飞涨,下游厂商面临成本压力。缺货潮或贯穿2026年,因AI需求爆发,三大厂商减产DDR4等产能。其他厂商难补缺口,华邦虽有扩产计划但周期长。端侧AI发展对存储有新要求,华邦布局相关产品。