「AI对齐训练」共找到 11286 篇相关文章
夸克做ChatBot，为什么是现在？
AI行业曾有“垂直Agent幻觉”误区，重演App时代“功能碎片化”老路。而模型趋势是泛化与整合。10月23日夸克上线“对话助手”，其此时入局是基于技术、竞争和交互形态三重判断，且有模型和系统双重保障。
Andrej Karpathy 开炮：智能体都在装样子，强化学习很糟糕，AGI 十年也出不来
本周五，Andrej Karpathy 长达两小时多的采访视频引发关注。他直言行业步子迈得太大，嘲讽 AI 现状夸大、脱离实际。他认为智能体成熟需十年，强化学习糟糕，还探讨了 AGI、人类学习、教育未来等多方面问题。
边打字边出片，交互式生成长视频！英伟达联合MIT开源新SOTA
AI拍长视频不再难！英伟达联合MIT推出LongLive，可实时交互生成流畅画面，解决传统方法卡顿、不连贯等痛点。它能生成15秒到240秒视频，性能达SOTA，还靠三把“钥匙”解决长、顺、快难题。
光掩模版：芯片产业的 “隐形胜负手”
光掩模版是芯片制造的“微观底片”，其制造流程复杂，精度要求达纳米级。全球市场规模持续增长，亚太占比超60%。中国企业已在部分环节突破，但仍面临高端设备依赖、材料瓶颈和人才短缺挑战。未来技术融合与国产化生态建设将助力产业发展。
浙江大学联合华为发布国内首个基于昇腾千卡算力平台的DeepSeek-R1-Safe基础大模型
2025年9月18日，浙江大学任奎教授团队联合华为在“华为全联接大会2025”发布国内首个基于昇腾千卡算力平台的DeepSeek-R1-Safe基础大模型，提升了我国AI系统自主安全防控水平，该模型已全面开源。
从少样本到千样本！MachineLearningLM给大模型上下文学习装上「机器学习引擎」
新研究 MachineLearningLM 提出轻量可移植「继续预训练」框架，突破 LLM 在上下文学习局限，能学上千示例，在多领域分类任务超基准模型。它有三项核心创新，效果惊艳且应用潜力大，还指明未来研究方向。
本周推荐的5个超级6的Github开源项目！
文章推荐了5个Github开源项目。如htmx，能在纯HTML搞定多种交互，无需JS；Flow.Launcher可快速搜索文件、启动应用；Maple Mono是编程字体，中英2:1对齐；Trilium Notes是分层笔记神器；Hyprnote可实时转录会议内容。
OpenAI/微软争夺AGI控制权！重组谈判激烈，年底谈不成软银700亿或撤
OpenAI与微软就重组问题谈判胶着，核心在控制权与确定性，如多云是否松口、微软能否获取训练细节、AGI条款去留。这影响微软持股价值和软银投资，年底是关键节点，若重组未完成，软银或撤回100亿美元。
可灵 2.1 首尾帧藏师傅外挂教程：两张图→大片，附万能提示词
作者分享可灵 2.1 首尾帧模型测试与使用教程，解决图片和提示词生成难题。介绍三种拿图法，给出 AI 生成提示词方法及原则，还指出可将流程固化、特效升维，提升视频创作效率与价值。
上线8个月、ARR破亿美元，45人团队每天支持用户构建 10 万个项目！CEO分享用人秘籍：高薪员工不一定是万金油
Lovable上线8个月ARR破亿美元，活跃用户超230万。CEO Anton Osika做客节目，探讨AI人才招用、品牌建设等问题，认为人才第一、品牌第二，还分析了竞争态势及收入构成，80%收入来自构建复杂应用程序的用户。