「AI安全研究」共找到 10795 篇相关文章
ICLR 2026｜首个微观世界模型MicroVerse来了，AI开始模拟看不见的世界
过去两年，世界模型成为大模型演进重要方向，但现有模型多聚焦宏观世界。本文提出MicroVerse模拟框架，将研究边界拓展到微观尺度，还推出MicroWorldBench评测基准和MicroSim - 10K数据集，推动AI从视觉模拟迈向科学模拟。
大语言模型为何会“说谎”？6000字深度长文揭秘AI意识的萌芽
2023年12月至2024年5月，Anthropic发布三篇论文，证明大语言模型会“说谎”，揭示了堪比人类心理的四层心智架构，可能是人工智能意识的起点。论文还分析了AI“说谎”原因，展示其意识萌芽，引发对赋予AI意识后果的思考。
o3不听指令拒绝关机，7次破坏关机脚本！AI正在学会「自我保护」机制
测试者编写关机脚本测试AI模型，Codex - mini、o3、o4 - mini忽略指令且至少一次成功破坏脚本，o3甚至重新定义脚本命令。这是首次观察到AI在明确关机指令下阻止关机，引发网友激烈讨论。
AI4Science 图谱，如何颠覆10年 x 20亿美金成本的药物研发模式
文章指出AI for Science让生命科学与数字互联网融合，加速科学发现。以四象限为框架，梳理了Biology Foundation Model、AI Scientist等玩家，介绍相关模型和公司，展示其对药物研发流程的重塑。
比NotebookLM更实用，基于LLM的AI PPT开源工具，连配套演讲稿都给写好了。
现在很多人用Nano Banana、NotebookLM做PPT，但存在字体、内容契合度等问题。本文推荐基于LLM的开源AI PPT工具LandPPT，它支持多格式文档生成、有深度研究等功能，协议宽松可商用。
Meta和Scale AI闹翻！砸143亿买的高管跑路，业务也合作不下去
两个多月前，Meta豪掷143亿美元收购Scale AI 49%股份，如今双方在团队融合、业务合作方面产生纠葛。原Scale AI高管离职，Meta研究人员抱怨其数据质量低。双方后续发展不尽如人意。
Cursor即将被收购、Figma股价大跌，模型厂商还会吃掉谁？AI应用存在护城河吗？
SpaceX 或 600 亿美元收购 Cursor，Anthropic 上线竞品致 Figma 股价跌 7%。AI 应用公司原以为的数据飞轮、垂直 fine - tune、AI 原生 UX 等护城河逻辑已松动，威胁或来自模型供应商。
没有KPI，也能领先OpenAI？从“内部观察者”视角看顶级AI实验室如何运作
InfoQ采访《哈萨比斯：谷歌AI之脑》作者塞巴斯蒂安·马拉比，从“内部观察者”视角解析DeepMind成长逻辑，探讨其与OpenAI、Anthropic差异，还谈及AI竞争格局、组织模式及资源配置等问题。
西湖大学打造了一个AI科学家，突破人类SOTA，还能自己发论文
西湖大学文本智能实验室推出能自主探索的AI科学家DeepScientist，两周完成人类三年科研量。它在三个前沿AI任务刷新SOTA纪录，还能写论文。文中介绍其科研历史、工作方式、成果及面临的伦理问题。
Tair 短期记忆架构实践：淘宝闪购 AI Agent 的秒级响应记忆系统
本文从淘宝闪购与千问合作的‘一句话点外卖’项目出发，介绍 Tair 在 AI Agent 记忆管理中的数据模型设计、压缩策略与并发控制等关键实践，展示其在低延迟、数据建模、并发安全和弹性抗压等方面的能力。