「人类意图对齐」共找到 1446 篇相关文章
从算法天才到机器人造梦者，原力灵机范浩强详解具身智能进化论：模型解锁场景，场景定义硬件
AI 前线深度访谈原力灵机范浩强，探讨其创业选择、具身智能技术演进与产业趋势。他认为机器人是 AI 绕不过的点，2025 年硬件与算法拼图开始对齐，原力灵机强调算法先行，还分享了保证算法演进的路线。
视觉语言模型“扫地僧”：360低调开源FG-CLIP2登顶29项全球基准测试 | 甲子光年
两周前，360人工智能研究院低调开源FG - CLIP2，它在29个公开基准测试中超越Google和Meta的模型。该模型实现局部细粒度识别和原生双语对齐，为AI视觉理解设新基准，已服务开发者并在多领域落地。
Andrej Karpathy最新万字采访：AGI还需10年，RL其实很糟糕，AGI不会导致经济大爆发
Andrej Karpathy在两小时万字采访里阐述AI观点。他认为AGI还需十年，强化学习糟糕，其不会带来经济爆炸式增长。还分享创办Eureka的愿景，想构建“知识斜坡”，让人类在AI时代有更强认知力。
“软件比白领更先被 AI 击穿”！Anthropic CEO 最新改口，反讽马斯克危言耸听，两大佬隔空互掐
Anthropic获300亿美元G轮融资，马斯克怒怼其AI有“厌世、反人类倾向”。Anthropic CEO Dario Amodei暗讽马斯克“危言耸听”，改口称软件比白领更易被AI击穿，还探讨了AI在医疗、经济、民主等方面的影响及风险。
Anthropic让AI先读员工手册再上岗：失控率从54%降到7%
Anthropic最新研究「模型规范中期训练」（MSM）显示，相同训练数据配不同行事原则，模型表现不同。MSM在预训练和对齐微调间加中间阶段，让模型读规范文档理解准则，在特定实验中，将Agent失控率从54%降到7%。
仅4人28天！OpenAI首曝Sora内幕：85%代码竟由AI完成
OpenAI团队揭秘安卓版Sora APP构建内幕，4人团队28天完成从0搭建，约85%代码由AI智能体Codex完成。Codex可自我迭代，在多方面表现出色，但也需人类指导。团队分享了与Codex协作的经验和技巧。
陶哲轩亲测！GPT-5 Pro 40分钟破解3年难题，登顶最难数学考试
数学家陶哲轩将几何难题交给GPT - 5 Pro，虽推理完美但无解。同一周，GPT - 5 Pro在FrontierMath测试集夺冠。陶哲轩测试发现AI在科研不同层面表现有别，也揭示了AI理解力受限及人类与AI的分工边界。
“今天的OpenAI，就是昨天的Sun！” 杨立昆最新长谈：像Linux击溃微软一样，开源AI终将统治世界
图灵奖得主杨立昆在万字对话中阐述AI逆行逻辑，认为LLM非通向人类智能的道路，因其缺乏预测行动后果等能力。他离开Meta创立AMI Labs，专注世界模型和JEPA架构，还介绍Tapestry项目，主张开源AI将统治世界。
让AI创作不千篇一律，提示词随机插词汇就行
最新研究发现，在AI开写前由人类提供开头或随机插入词汇，写作效果会更多样，AI写作同质化或因“启动条件”问题。研究创建三类同质化评价指标，还发现向系统提示注入随机词汇可提升模型输出多样性。
“软件比白领更先被 AI 击穿”！Anthropic CEO 最新改口，反讽马斯克危言耸听，两大佬隔空互掐
Anthropic获300亿美元G轮融资，马斯克怒怼其AI“厌世、反人类”。Anthropic CEO Dario Amodei暗讽马斯克说法“危言耸听”，还改口称软件比白领更易被AI击穿。此外他还谈了AI在多领域的影响及风险应对。