「人类偏好对齐」共找到 1411 篇相关文章
自适应Agent基础模型：从“会推理/会用工具”到“懂得取舍的执行者”
当前大型语言模型在智能体/工具调用场景有推理型和工具型两类，存在效率与功能、深度的矛盾。A²FM框架提出多模式自适应路由，实现模式自适应切换，在多基准测试中效果与效率双升。
AI时代，努力没用了!「躺平」才是最赚钱的方式
新智元报道，硅谷投资人Reid Hoffman认为AI扩散靠懒人推动，遵循「懒惰经济学」。他指出AI不会取代医生等职业，但会让他们被重新教育，还探讨了AI自主性、LinkedIn持久力及人与AI关系等问题。
AI模型守法率提升11%，港科大首次用法案构建安全benchmark
香港科技大学KnowComp实验室从法律合规视角研究LLM安全，提出「安全合规」新范式。基于法律条文构建benchmark，用GRPO微调Qwen3 - 8B得推理模型，在新benchmark测试中性能提升显著。
Agentic Enterprise：生成式软件重新定义企业形态｜AGIX PM Notes
文章指出软件正从静态代码集合变为“Living Software”，企业是其理想训练环境。还提及市场资金流向、多起企业投资合作事件，如英伟达投资英特尔、OpenAI租服务器等，最后介绍了ETF流动性相关知识。
李飞飞一年前究竟说了啥？怎么又火了
AI教母李飞飞一年前访谈再引关注，她指出大语言模型或许并非真正智能，其基于一维语言信号训练，在理解三维物理世界存在局限。相关实验也证实大模型在物理任务表现差，不过也有人提出不同观点。
生成式AI第二阶段：个性化AI助理 + AI Agent将颠覆我们的生活工作方式
生成式AI已迈入第二阶段，核心是能“动手办事”的AI智能体。未来AI以AI助理和AI代理形式存在，两者协同工作将带来工作方式革命，但面临记忆、信任、伦理等挑战。
凯捷研究院最新报告：到2028年，Agentic AI市场规模4500亿美元
凯捷研究院报告显示，到2028年Agentic AI有望撬动4500亿美元经济价值，但目前仅2%企业规模化应用。其能自主执行任务，带来商业价值，不过面临信任危机，各行业巨头已开始探索落地场景。
推理能力再突破！蚂蚁 | 提出Agentic Deep Research新范式，可信度同步增加
尽管LLM能力提升，但复杂任务表现受静态知识限制。业界提出Agentic Deep Research系统，现存系统训练有梯度冲突和奖励稀疏问题。蚂蚁团队提出Atom - Searcher，创新推理范式，构建细粒度奖励，结合奖励训练，实验效果佳。
ChatGPT到底学了多少「污言秽语」？清华团队首提大语言模型中文语料污染治理技术
清华等团队研究发现，先进ChatGPT系列模型中文词表污染达46.6%，含色情、赌博等词元。团队定义分类中文污染词，构建识别模型，还能由词表污染估计数据污染，为语料治理提供方案。
“掩码即武器”，四款扩散LLM全部破防 ？ 上交&上海AI Lab发现dllm致命安全缺陷
上海交通大学、上海人工智能实验室等团队研究指出，扩散语言模型（dLLMs）有根本性架构安全缺陷。他们提出DIJA攻击框架，能让多个dLLMs大概率生成有害内容，还呼吁从多方面加强dLLM安全。