「自主性风险」共找到 1409 篇相关文章
老黄刚投的具身智能公司：三个华人创办
Dyna Robotics获1.2亿美元A轮融资，英伟达是新晋股东。该公司由三个华人创立，决定先将具身AGI带入商用场景，今年4月发布可落地商业场景的灵巧操作基础模型DYNA - 1，已在多场景应用。
从数据分布视角，重新认识下CoT
本文从数据分布视角重新审视大语言模型的思维链（CoT）推理。指出CoT并非真正推理，而是模仿，其效果受训练与测试分布差异影响。通过实验揭示CoT在分布偏移时性能退化，提醒勿过度依赖。
一文讲清三种AI应用系统的架构及及TOP威胁框架
文章从AI系统分类及架构出发，分析不同类型AI系统的威胁特征，并介绍现有的威胁分析框架。目前AI应用架构经历从GenAI到AI Agents，再到Agentic AI的演进，各方向独立发展，且威胁各有特点又有重合。
智能体新范式Chain-of-Agents，多项任务新SOTA
论文提出Chain-of-Agents (CoA) 范式，结合多智能体系统与工具集成推理优势。通过多智能体蒸馏和智能体强化学习训练智能体基础模型（AFM），实验显示其在Web和Code任务上达新SOTA，效率、泛化性佳。
AI 时代操作系统的三重叙事：技术重构、国产化突围与生态共建
《AI 进化论：智算时代操作系统的破局之路》首期，周明辉、马涛围绕 AI 对操作系统的影响等核心命题展开对话。指出 AI 让操作系统面临挑战，技术演进分两条路径，还谈到安全、国产化、生态共建等问题。
Github斩获1.8K 星！！再见了按键精灵，Windows-MCP开源了！
今天介绍超酷开源项目Windows - MCP，它让AI与Windows系统互动，支持Win7到Win11。功能强大，不挑大模型，工具全、轻量开源、扩展性强。还给出安装步骤，不过使用时要谨慎。
扩散LLM推理新范式：打破生成长度限制，实现动态自适应调节
随着扩散大语言模型成为热门，但其推理时存在预设固定长度的限制。香港中文大学 MMLab 等提出 DAEDAL，赋予模型根据问题自主调整回答长度的能力，在性能和计算效率上有提升。
“连我也要被GPT-5踹了!”Altman再发暴论：写款软件就花7毛钱，大批高级程序员岗也说没就没
OpenAI 首席执行官 Sam Altman 在播客和会议上谈 GPT - 5，称其“几乎所有方面比人类聪明”，还预言 AI 对就业、医疗等领域影响大，也指出 AI 有欺诈等风险，强调其发展不确定性。
GuardAgent：首个专门为LLM agent提供安全Guardrail 的守卫型agent
近年LLM从对话工具变为可自主执行任务的agent，但带来安全隐私挑战。传统安全监护对其力不从心，为此学者发布GuardAgent，它守卫agent，具通用性、精确判断和免训练部署优势，实验表现佳。
OpenAI 离职员工爆料公司压力巨大发展速度惊人
前OpenAI员工Calvin回顾工作经历，称其发展极快、压力大。公司依赖Slack沟通，自下而上创新，重能力而非政治。还提到技术栈、安全关注重点等，认为OpenAI、Anthropic和Google是AGI赛道主力。