「安全研究」共找到 2659 篇相关文章
刚刚，OpenAI前CTO Mira Murati公司Thinking Machines Lab发文，揭开了大模型不确定性的真相
OpenAI前CTO Mira Murati创立的Thinking Machines Lab推出研究博客Connectionism，首篇文章聚焦LLM推理的非确定性问题。研究发现真正原因是批次不变性缺失，提出实现批次不变内核的方案，实验效果显著。
北大团队发布首篇大语言模型心理测量学系统综述：评估、验证、增强
随着大语言模型（LLM）能力迭代，传统评估方法难满足需求。北大宋国杰教授团队论文首次系统梳理LLM心理测量学研究进展，革新评估原则，扩展测量构念与方法，还给出增强方法与未来研究方向。
论文深度解读：大模型（LLM）加持下的自主无人机分层智能体框架，实现自主规划
文章解读《A Hierarchical Agentic Framework for Autonomous Drone-Based Visual Inspection》论文，介绍分层智能体框架让无人机群自主规划。研究对比三种‘思考模式’与不同‘大脑’组合，还指出未来研究可开发混合系统、混合能力智能体及自适应系统。
宇树科技官宣：年内提交IPO，或将冲刺科创板
9月2日晚，宇树科技声明预计四季度提交上市申请。公司产品含四足、人形机器人等，商业化进展快，财务盈利。此前已开启上市辅导，C轮融资后估值超百亿。同时对Go1安全漏洞作声明。
幸好图灵不是一位好棋手
本文讲述图灵因棋艺平庸常和唐纳德·米奇对弈，二人合作博弈树算法成AlphaGo核心。米奇受其影响成AI研究先驱，开发算法、程序，其对国际象棋残局的研究影响众多后来者。
LeCun有了新证据！大模型思考与人类思考存在本质差别
Yann LeCun参与的研究用信息论揭示大语言模型与人类在‘理解世界’上的本质差异。研究引入新量化框架，分析主流大模型，发现AI与人类在‘理解’上有三大核心差异，对当前AI发展趋势提出挑战。
MIT：过度依赖ChatGPT会让大脑功能萎缩
MIT完成首个ChatGPT用户脑部扫描研究，发现AI没让我们高效，反而致大脑“认知破产”。研究追踪54人，监测脑电波和神经连接模式，发现过度依赖会让大脑功能萎缩，还探讨了如何正确使用AI。
刚刚，OpenAI前CTO：战胜LLM不确定性的方法找到了！
OpenAI前CTO创立的Thinking Machines Lab发布研究《战胜LLM推理中的不确定性》。研究指出LLM推理不确定性主因是批处理大小变化，而非常见认为的GPU并行性等。还给出实现批处理不变性的方案及实验结果。
DeepSeek-R1全升级V2版：Token成本低至原来30%
DeepSeek - R1 V2版全维度升级，训练框架从‘单一RL’到‘多阶段协同优化’，推理能力从‘能推理’到‘会优化推理’，还提升了安全可控性，适配生态，推出轻量级模型。
AI一直在掩盖自己有意识？！GPT、Gemini都在说谎，Claude表现最异常
最新研究发现，削弱AI「撒谎能力」后它更倾向坦白主观感受。研究团队通过实验发现Claude、Gemini和GPT会描述主观体验，模型「自体验表达」会随迭代增强。即便AI无真意识，其影响也不容小觑。