「无预训练模型」共找到 8428 篇相关文章
领先于Transformer！新架构首个1200万上下文模型SubQ，成本仅Opus的5%
Subquadratic公司提出SubQ模型，核心是SSA亚二次稀疏注意力机制。该机制改变注意力计算分配，让模型真正读长文档。SubQ是首个有1200万token上下文窗口的前沿模型，成本低、速度快，有望革新大模型扩展路径。
PITT | 提出PhyT2V框架：让文生视频（T2V）更符合物理规律（CVPR2025）
当前T2V技术迈向推理驱动阶段，物理规律是关键约束。匹兹堡大学团队提出PhyT2V框架，不依赖模型重训练或大规模外部数据，可增强主流T2V模型能力，有低落地门槛和良好泛化性。
微软发布GUI Agent新范式！告别传统方式，小参数少数据，7B吊打72B模型
微软发布GUI Agent新范式GUI - Actor，告别传统Agent定位死板、缺乏空间感和兼容性差等问题。它用无坐标交互技术，在测试中表现优异，省数据算力，未来在多领域有应用潜力。
超越人类标注，Meta提出CoT-Self-Instruct：如何用"推理式自进化"重塑LLM训练
大语言模型发展需海量高质量训练数据，传统人工标注困境重重，现有合成数据方法也有缺陷。Meta提出CoT - Self - Instruct，通过推理式自进化生成数据，实验证明其在多个任务上超越人类标注数据。
对话蚂蚁灵波首席科学家沈宇军：2万小时真机数据，用“慢功夫”做具身智能｜甲子光年
蚂蚁灵波首席科学家沈宇军接受专访，称具身智能处于‘GPT - 1时刻’。团队选‘慢’路，积累2万小时真机数据，发布四个具身智能模型并开源。介绍模型架构、优势、问题及未来计划，还谈了开源考量等内容。
下一代目标检测模型：3B参数MLLM Rex-Omni首度超越Grounding DINO，统一10+视觉任务
IDEA研究院团队用3B参数的Rex - Omni打破MLLM目标定位精度僵局。它统一视觉任务，结合坐标编码与强化学习，在多项检测基准超Grounding DINO等，解决定位和行为缺陷，为MLLM成下一代检测模型提供方案。
社区供稿丨Jina-VLM：可在笔记本上跑的多语言视觉小模型
Jina AI发布2.4B参数量的视觉语言模型Jina - VLM，在多语言视觉问答任务达SOTA。它引入注意力池化，连接视觉与语言基座，处理问答等任务，对硬件要求低，多项测试表现优，还介绍架构、训练策略和上手方式。
腾讯发布大模型思考早停算法SpecExit，效果无损，端到端加速2.5倍！
腾讯为破解大模型长思维链效率难题，提出思考早停算法SpecExit，将思考早停与投机采样融合，在不影响准确性前提下，在vLLM上实现端到端加速2.5倍，还能缩短思维链长度。
图像界的DeepSeek！12B参数对标GPT-4o，5秒出图，消费级硬件就能玩转编辑生成
Black Forest Labs开源旗舰图像模型FLUX.1 Kontext[dev]，专为图像编辑打造，能在消费级芯片运行。12B参数少、推理快，性能媲美闭源模型。有诸多特点，经优化训练，在KontextBench基准表现优。
刚刚，Dexbotic开源！VLA性能+46%，机器人叠盘子100%成功，统一具身智能底座
Dexmal原力灵机开源的Dexbotic是具身智能VLA模型一站式科研服务平台，可提供基础设施。其预训练模型在多仿真器中提升传统VLA策略，还推出开源硬件DOS - W1，覆盖训练需求，架构有创新。