「未对齐行为」共找到 1130 篇相关文章
普林斯顿发现RLHF显著加剧了LLM胡扯！
普林斯顿研究提出‘机器胡扯’概念，构建分析框架，含胡扯指数、行为分类法和评测集。实验揭示RLHF加剧胡扯，政治语境模型爱‘打太极’，为构建诚实AI提供工具和理论。
不死的程序员
文章回顾计算机技术演进中八次“程序员替代论”浪潮，从编译器诞生到如今大语言模型崛起。虽每次都预言程序员被取代，但实际是角色重塑、分层，新需求增长超人力节省，程序员价值仍在。
支持5000+ Server，ScaleMCP为大模型Agents动态同步MCP工具
现有工具选择框架未整合MCP服务器，存在重复、不一致和低效问题。普华永道提出ScaleMCP，配备MCP工具检索器，还提出TDWA嵌入策略，通过实验证明其提升了LLM代理性能。
微软老员工48岁生日被裁，妻子发帖怒斥算法裁人！全球大血洗6000人
微软全球裁员6000人，25年老员工生日当天被算法选中裁掉，他曾修复百万美元漏洞；TypeScript核心成员、AI总监也在裁员名单。微软称与绩效无关，是为简化管理层级，也可能因职位被AI取代。
100万美元图灵奖奖金，强化学习师徒想献给科研自由
3月5日，Andrew Barto和Richard Sutton因强化学习获图灵奖。Communications of the ACM对其采访，谈及研究经历与AI未来。100万美元奖金用途未明，Sutton或捐Openmind，Barto计划设奖学金。
GPT-6最大的升级，是每天送你一张免费重置卡。
GPT - 6刷屏，虽不能马上给用户用，但跑分碾压，似被fable5.1逼出。重置义父想出每天送一张重置卡的补偿办法，口碑反转。OpenAI还更新订阅额度限制，token变贵，很多公司开始适应峰谷定价。
刚刚开源就收藏 1000+ 收藏的 DeepSeek Harness 橙皮书，它把Harness拆解个遍！
DeepSeek Harness开源同日，《DeepSeek Harness：从开机到拆开》上线。作者花叔实测记录大量官方文档未写的细节，如完整系统提示词、出厂启动清单等，全书分四部分，获取方式简单。
机器人为什么要拟人？终于有人正确回答了
今年6月，英伟达发布Isaac GR00T人形机器人参考平台，深度机智发布论文Human - as - Humanoid。具身智能瓶颈是数据，深度机智以人类学习范式破局，完成全栈技术闭环，领先优势扩大。
DSpark推理速度提升80%后，OpenAI宣布新方法将推理成本降低了一半
近日，OpenAI 工程师开发优化技术，将模型推理成本降一半。业内猜测或基于公开成果，也有人认为是模型量化。此前 DeepSeek 推出 DSpark，使 V4 模型推理速度提升 60%-85%，还引入峰谷定价机制。
Karpathy 最新访谈：Vibe Coding 只是开始，真正重要的是 Agentic Engineering
Andrej Karpathy在访谈中分享编程范式剧变感受，谈到Software 3.0实质，指出AI能力不均，介绍Vibe Coding和Agentic Engineering区别，还提及创业机会、人类技能价值等内容。