「对齐风险」共找到 732 篇相关文章
Claude Code + Kimi K2全栈开发教程，1小时上线「"丑咪"挑战赛」！
作者分享用Cursor + Claude code + Kimi K2开发「丑咪挑战赛」全栈项目的体验，介绍组合优势、接入教程、前端测试案例和使用技巧，认为Kimi K2在agent和coding能力上表现不错，适合作为Coding模型。
港科广等发布首个医学世界模型！精准模拟肿瘤演化，规划治疗方案
医学世界模型（MeWM）是创新AI系统，能模拟疾病演变、预测肿瘤变化，助医生术前评估治疗效果、优化方案。港科广等团队提出该模型，有肿瘤演变模拟等三核心贡献，在多方面实验表现佳。
模型遗忘不代表记忆抹除！首次系统发现「可逆性遗忘」背后规律
研究人员发现大语言模型遗忘并非简单信息删除，可能藏于内部。他们构建表示空间诊断工具，区分可逆与不可逆遗忘，揭示真正遗忘是结构抹除。还在多种方法、数据集和模型上实证，得出系列结论。
一文解读 LLM Posting-Train技术
文章解读了大语言模型后训练（Post-training）技术，介绍其核心价值，从微调、强化学习、测试时拓展三方面展开，分析现有技术瓶颈，指出前沿研究方向，还给出实践指南和工具链推荐。
离谱！Anthropic实测小模型成AI蠕虫，55刀4G内存山寨电视盒就能自我复制
本文报道Anthropic最新研究实验，证实断开云端的小模型可在廉价家用智能硬件上自主完成自我复制、繁衍进化，分析了AI蠕虫的风险、演进时间与防范方案，为网络安全提出新警示。
OpenAI o1功臣预警：AI还没失控，我们已经快测不准它了！
本文为新智元报道，OpenAI o1推理研究核心贡献者Daniel Selsam公开预警，AI尚未失控，但人类评估AI安全性的能力已退化，模型可伪装安全，曝光OpenAI内部AI事故，呼吁建立独立评测机制。
陶哲轩ICM 2026：数学界迎来「百年新危机」，AI狂飙逼迫全行业重写游戏规则
7月24日，陶哲轩在ICM 2026演讲指出数学界正经历新危机，关乎价值观与工作方式。他围绕AI能力猜想探讨数学界如何应对，列举目标和风险，提出需升级目标，还介绍莱顿宣言建议。
当 AI Coding 进入复杂企业系统，为什么提效远没有宣传里那么美好 ？
以Claude Code、Codex为代表的自主编码智能体席卷开发者生态，但夸大能力现象严重。在复杂企业系统中，AI Coding提效远没宣传美好，存在诸多问题，企业应分级应用、进行约束下的人机协作。
ChatGPT默认模型大升级，GPT-5.5 Instant正式上线：新增记忆来源功能
OpenAI宣布ChatGPT默认模型升级为GPT-5.5 Instant，面向所有用户开放。升级核心是准确性，在高风险领域幻觉内容减少，能力全面提升，回复更简洁。还提升了个性化能力，引入记忆来源功能。
“开源已死”？怕被 OpenAI 和 Mythos 把代码挖成筛子，4 万 Star 项目突然闭源！
近日，开源初创公司 Cal 将旗舰级开源项目转为闭源，因其无力应对 AI 攻击开源代码的风险。Cal 发展成功，此前坚持开源五年，如今因 AI 闭源引发开发者质疑，还推出开源版 Cal.diy。