「预训练策略」共找到 2851 篇相关文章
突发：SpaceX 或 600 亿美元收购 Cursor
SpaceX官宣与Cursor合作，打造编程和知识工作AI。Cursor授予SpaceX今年晚些时候以600亿美元收购的权利，或支付100亿合作费。Cursor增长快但无自研模型，合作可助其训练模型。此外还介绍了编程AI市场竞争情况。
aiX-apply-4B逆袭DeepSeek-V3.2！aiXcoder发布代码变更应用模型，单卡推理提效15倍
3月25日，硅心科技发布专为代码变更应用场景设计的模型aiX - apply - 4B。它平均准确率达93.8%，超越Qwen3 - 4B和DeepSeek - V3.2，算力成本仅为后者5%，推理速度提15倍。还采用创新训练方法，适配企业场景。
中美科技博弈下的生存法则
中美科技博弈围绕原创型创新、应用型创新、技术自主与安全、全球影响力构建四大维度展开。中国在部分领域实现局部反超，应用创新优势明显，但在科学前沿仍需追赶。文章还探讨了半导体、能源资源等方面的挑战与策略。
AI5芯片搞定，马斯克的纯自研超算Dojo 3又回来了
马斯克宣布AI5芯片设计进展顺利，特斯拉将重启Dojo 3工作。Dojo项目定位为面向机器学习训练的超算，此前曾暂停。如今Dojo 3将集成AI5或AI6芯片，有望助力特斯拉摆脱对英伟达依赖，自建算力体系。
Meta超级智能实验室又发论文，模型混一混，性能直接SOTA
大语言模型训练依赖算力和时间，传统模型 Souping 多采用均匀平均。Meta 等研究者提出类专家 Soup（SoCE），利用基准测试类别构成选最优模型，非均匀加权平均，实验显示其提升了模型效果与稳健性，在排行榜获 SOTA 成绩。
小米小爱同学：资源受限下，实现端侧大模型的高性能推理
InfoQ对话小米小爱同学端侧AI负责人杨永杰，了解其团队在资源受限的端侧设备实现大模型高性能推理的策略。目前端侧大模型商业化落地慢，团队提前布局，自研框架，实现超180 tokens/s推理速度，还分享未来突破方向。
2025-04-努力不是做好事情最重要的因素
作者分享个人生活、工作等多方面情况，提及播客发布，认为努力非工作做好的关键因素，深入探讨Agent在业务应用中的问题，还谈及视频更新、投资经历等，最后表示要审视目标、精简事务。
Anthropic 联创：2028 年实现 AI 自我构建的概率超过 60%
Anthropic 联合创始人 Jack Clark 发长文称，到 2028 年底，AI 实现端到端自动化研发概率超 60%。他分析多维度测试数据，指出 AI 在代码、科研、自我训练和管理等方面能力提升，也探讨了成真后的影响，但遭黄仁勋和陶哲轩质疑。
深度访谈：阿里云X平头哥，模型推理提升13倍背后的秘密
这篇深度访谈聚焦阿里云与平头哥，探讨模型推理提升13倍背后的秘密。随着AI焦点转向推理，行业面临算力、成本、监管等矛盾。嘉宾分析推理范式现状与变化，探讨推理加速技术及优化策略，还谈及瓶颈、未来发展及竞争方向。
NUS LV Lab新作｜FeRA：基于「频域能量」动态路由，打破扩散模型微调的静态瓶颈
在大模型时代，参数高效微调（PEFT）已成为迁移大规模扩散模型至下游任务的标准范式。但现有微调方法多采用「静态」策略，忽略扩散生成过程内在规律。新加坡国立大学LV Lab等机构提出FeRA框架，通过频域能量动态路由，实现高效微调。