「AI安全研究」共找到 10795 篇相关文章
AI修真的一年：学者们怎么看“真智能”？｜甲子光年
甲子光年在年终盛典对话三位学者，探讨AI“真假智能”。学者们提及强化学习、推理、多模态等技术突破，分析研究路径，还谈选择标准与未来期待，指出AI是工程实践命题，真与假关乎信念选择。
跟Claude谈个恋爱怎么了？Nature最新研究：真能给人聊傻了
Nature旗下研究指出，聊天机器人持续顺着、理解、陪伴用户，可能让正常人怀疑现实。研究总结出“放大螺旋”框架，含语言镜像、超个性化、谄媚三组件，叠加会成妄想放大机。OpenAI也关注此问题。
Meta 放出大招：让 AI 实现自我进化，Karpathy 的 autoresearch 沦为小弟
Meta联合多机构发布论文，提出HyperAgents框架，让AI不仅改进自身，还能改进「改进自己的方法」。它打破传统AI自我改进瓶颈，在多领域测试表现出色，还自发形成记忆机制，有迁移和叠加效果。
不拼爹，拼AI！青少年们用Claude“写”出百万生意，圈粉25万投资者，谷歌风投也主动求合作？
AI 发展让创业者年龄走低。14 岁 Nick Dobroshinsky 创办 AI 金融平台 BeyondSPX；16 岁 Raghav Arora 开 AI 生鲜配送公司 GetASAP；14 岁 Alby Churven 先做游戏化教育应用，后转向开发 AI 编程工具。
The Batch: 893 | 从预测到执行
2026 年 AI 研究应认识到能预测的模型不等同于能行动的系统。过去十年在被动预测和生成建模成就非凡，但现实任务需系统执行一系列动作。转向长周期任务和目标导向 AI 系统有两大好处。
独家｜美图入局 Visual Agent，Chance AI 完成数百万美元天使轮融资
美图布局下一代视觉 AI 入口，领投 Visual Agent 创业公司 Chance AI 数百万美元天使轮融资。该公司成立于 2025 年 8 月，从北美大学生切入，有独特产品逻辑，融资后将推进多方向发展。
Elad Gil：AI 应用进入收敛期，比模型跑得快才能抓住红利
硅谷AI投资人Elad Gil回顾AI领域投资，指出AI应用进入收敛期。基础模型头部梯队明显，格局难改；GPT-ladder带来新机会；应用端理解痛点、构建工作流的团队更有优势，AI Agent重塑商业模式。
全球首个AI Agent操作系统FlowithOS跑分超Atlas，网友：它「杀死」了比赛
AI应用初创企业Flowith推出全球首款专为AI Agent打造的操作系统FlowithOS。它能改写交互方式，功能超AI浏览器，跑分超竞品，还具记忆能力，适配多系统，已公测，或引发“AI操作系统”竞争。
Nature Machine Intelligence颠覆有机化学研究范式，上海交大发表化学合成大语言模型
上交大AI4S团队依托平台，联合多团队在AI for Chemistry领域获突破。相关研究发表于《Nature Machine Intelligence》，介绍白玉兰化学合成大模型Chemma，它加速有机合成全流程，在多任务表现出色，还能解决数据稀疏等问题。
Vibe Coder 之死
文章围绕Vibe Coder之死展开，讲述机器人因Vibe Coding失控视频走红，引发对机器人安全热议，探讨其危害、发生可能性、防范措施等，指出当前AI发展枉顾安全，还提及人们对AI+机器人未来的多种看法。