搜索：人类意图对齐

「人类意图对齐」共找到 1446 篇相关文章

Karpathy又封神！掀翻RAG，把你的笔记变成第二大脑

前OpenAI创始成员Andrej Karpathy提出让大模型把笔记「编译」成持续生长的活Wiki，替代RAG。他将笔记当源代码，LLM当编译器，实现知识结构化。此方案降低维护成本，解放人类注意力。

谷歌云AI总监Addy Osmani称AI编程进入下半场，氛围编程将被取代。AI能提升生产力，但无质量保证，人类专业判断才是关键。他还提出工作模式，强调开发者要结合AI提升能力。

谷歌提出能帮科研人员编写「专家级」科研软件的AI系统，融合大语言模型和树搜索，可整合重组知识构建新思路。在多领域超人类表现，但局限于可量化任务。

微信团队推出基于大模型的文档理解检索框架WeKnora，应用于复杂异构文档场景。它采用多模态预处理等设计，有文档解析、意图识别等特点，可本地私有化，还能与微信生态无缝衔接。

2025年6月6日，图灵奖得主Yoshua Bengio在第七届智源大会发表演讲。他目睹前沿AI行为演化后深感警觉，决定调整科研方向以降低AGI潜在风险，还分享AI“求生”案例，提出构建“科学家AI”新理念。

近日，中科院计算所联合软件所推出「启蒙」系统，基于AI实现处理器芯片软硬件全流程自动设计，达到或部分超越人类专家水平。该系统在多方面表现出色，如设计的CPU达ARM Cortex A53性能等。

2025年将尽，AI未带来美好，反致裁员失业。美国近5.5万岗位被AI取代，总裁员117万。图灵奖大佬Bengio、Anthropic CEO预警劳动力市场崩溃，人类需学习AI工具，从事创造性工作自救。

SpaceX 宣布收购 xAI，合并后公司估值达 1.25 万亿美元。此举旨在打造宏伟创新引擎，将 AI 与航天等技术结合，利用太空资源满足 AI 算力需求，推动人类太空探索与发展。

前OpenAI、特斯拉前AI总监Andrej Karpathy发布新项目autoresearch，一周揽35.6k Star。它是极简版LLM训练环境，630行代码让AI自动做研究，人类通过Prompt指导，AI自行实验。

马斯克旗下xAI在起诉OpenAI违背「非营利」承诺时，悄悄放弃公益企业法律身份。8月14日其移除章程中「考虑社会公共利益」条款，引发对其商业意图质疑。