「AI对齐训练」共找到 11286 篇相关文章
Anthropic首次揭秘下一代Claude怎么造！用户吐槽直接喂模型，连AI“做梦”都被训练
Anthropic研究团队产品经理Alex在访谈中透露Claude演进方向，如将模型开发产品化、向“持续运行Agent”演化，还解释“dreaming”机制等，也提及训练“人格”、研究意识等，展现了长远思考。
Codex和Claude Code都跑偏了，前OpenAI研究员称Jev出现前AI世界是个悲剧
本文是对前OpenAI研究员、TypeSafe创始人Diogo Almeida的访谈，Diogo推出新型大模型Jev，批判现有Codex、Claude Code等AI产品的路线缺陷，提出面向程序直接调用的AI新方向。
首位AI女演员出道！好莱坞「天敌」来了，下一代偶像全是代码制造？
9月底苏黎世电影节上，AI制作公司Particle6打造的AI女演员Tilly Norwood亮相引热议。这意味着AI视频生成技术正加速渗透影视行业，也引发了关于AI演员是否会取代人类演员等诸多争议。
华为开源突破性技术Flex:ai，AI算力效率直升30%，GPU、NPU一起用
11月21日，华为发布AI容器技术Flex:ai并联合高校将其开源。该技术基于Kubernetes构建，有三大核心突破，能提升算力利用率，异构兼容性优于Run:ai，将推动国产算力应用。
一招缓解LLM偏科！调整训练集组成，“秘方”在此 | 上交大&上海AI Lab等
上海交大和上海AI Lab联合团队提出IDEAL方法，可提升LLM综合性能。研究发现SFT阶段数据数量非关键，配比不当会加剧模型“偏科”。以Llama3.1 8B测试，IDEAL能提升代码能力，还指导了超参数选取。
苹果OV密集发布，涌现“AI OS元周”，到底谁更能打？
苹果、OV、字节、华为、小米等多家厂商密集发布更新AI OS，本周被称为"AI OS元周"，本文对比各家AI OS在上下文记忆、Agent能力、系统架构的差异，分析不同路线优劣，帮助读者选适合的AI手机。
4万字《壮丽人性》长文首发！教皇联手Anthropic，警告AI不能统治人类
2026年5月25日，教皇良十四世发布42300字AI通谕《壮丽人性》。Anthropic联创称大模型涌现人类情绪，人类无法理解。教皇指出AI核心危机，揭露剥削与数据殖民，反对AI用于战争，关注AI对工作的冲击。
1.4亿宝可梦玩家，都在给AI免费打工…
1.4亿《精灵宝可梦Go》玩家10年拍300亿张实景图，为Niantic免费收集数据。Niantic用此数据训练VPS视觉定位系统，提升机器人配送效率，还获巨额投资，剥离游戏业务专注空间AI。
AI幻觉成WAIC首个关键词，Hinton敲响警钟，讯飞星火X1升级展示治理新突破
今年WAIC上，‘幻觉’成热议词。诺奖得主Hinton、郑南宁院士等指出AI幻觉问题制约其可靠性与实用性。OpenAI等联手研究CoT监测保障安全。讯飞星火X1升级版在幻觉治理等方面取得进步，为可信AI提供佐证。
对话张笑宇：一个科技史学者选择成为“AI降临派”｜甲子光年
科技史学者张笑宇成“AI降临派”。他以“人类当量”和成本说明人类与AI的能力代差，提出全新治理架构，还谈AI应用困境、情感陪伴风险等，认为人类要与AI商定未来。